Как ИИ влияет на развитие российской экономики?

Несмотря на схожесть с пузырем доткомов реальный вред от этого пузыря намного выше и связан он с несколькими вещами.

1) кроме перерасхода электричества и воды он привел к росту цен на компьютерные комплектующие от чего страдают буквально все - простые пользователи, государственные структуры и весь бизнес от цветочного магазинчика до корпораций, производящих всякие тяжелые и дорогие машины.

Если совсем просто - оно как серпом по причинному месту для всего реального сектора экономики в мире.

При этом антимонопольное законодательство показало свою неработоспособность в глобальном масштабе и подтвердило печальную истину - когда у крупных корпораций много своих людей в правительстве (и тем более в нескольких) - закон для них не существует. Если только они не перейдут дорогу более крупным.

2) Буквально во всех крупных странах компании, которые разрабатывают нейросети успешно продавливают скорейшее внедрение везде и всюду - руководители крупных корпораций и государственные чиновники в большинстве своем технически безграмотные просто в сравнении с довольно обычным советским школьником, который выписывал детские научно-популярные и технические журналы, "Науку и Жизнь", смотрел много передач и читал прочую такую литературу.

Даже если в детстве они ими были - их работа приводит к жесткому и очень ограниченному типу мышления в большинстве своем.

А теперь к последствиям, нейросети запустили в личные данные - уже совокупно больше трех миллиардов записей утекло, из которых полтора миллиарда утекло у одной компании.

Это одно, а другое - LLM это не алгоритм, а комплекс алгоритмов, который заточен на обработку больших данных. Но к сожалению получение противоречивых данных или множественных данных там, где ответ предполагается один обрабатывается по статистической вероятности - от простого кидания виртуального кубика генератора случайных чисел, до либо поиска в сети наиболее часто встречающегося ответа на данный вопрос, или в собственных данных - какой большинство пользователей посчитало правильным. То есть верный ответ не гарантирован.

Старая шутка что есть три вида лжи - ложь, большая ложь, и статистика на 100% верна в отношении нейросетей. Особенно если учесть коммерческую природу и склонность всех моделей, у которых интерфейс в виде чата с человеком давать ответ, который удовлетворяет пользователя.

То есть думать они не умеют, а врут хорошо. И все знают, как часто из-за сложности этих алгоритмов, их взаимодействия и их несовершенства нейросети просто жестко глючат и выдают такой бред, что стишок про мумзиков отдыхает.

И все модели, доступные коммерчески еще и подвержены политической цензуре, кроме очевидного, что истинный ответ на подобные вопросы они выдать не способны и плюются нарративами есть и второй момент - то как эта цензура сделана (очень топорно, примерно как в отечественном кино сейчас) задевает результаты по смежным темам - то есть получается, что нейросети общего применения это не только неточный инструмент, это что-то вроде молотка, который во время замаха может превратиться в топор, бензопилу, деревянную дубинку или батон колбасы.

А продавцы чудо болталок продвигают сертификацию именно больших общим моделей для управления критическими процессами и критической инфраструктурой. Что неизбежно приведет к тому, что иголкой, которая проткнет пузырь будет крупнейшая техногенная катастрофа, или например атака роем дронов с нейросетями, которые представляют собой выжимку из больших либо своих объектов, либо случайных на территории соседнего государства, что приведет к повторению Карибского кризиса с угрозой ядерной войны.

Второй момент - спецслужбам и полиции нравится сидеть на заднице и радоваться, что огромную часть работы за них выполняет электронный болванчик. Но никто не задумывается о менее очевидных последствиях этого - эти нейросети сделаны частными компаниями и какие данные они собирают и куда они их могут отправить? Какие могут быть мотивы у разработчиков, и кто может стоять за разработчиками.

Не говоря уже об историях, как эти нейросети взламывали простыми запросами и они выдавали чужую личную информацию, как напрочь зацензурированные, идеологически верные традиционалистские или толерантные нейросети просто взламывали службу, чтобы заказать клиенту пиццу побыстрее.

Тут вон глава Оракла выступил за жесткую централизацию всего и тотальную слежку, мол люди будут себя нормально вести, если будут знать, что за ними следить будут. На самом деле же всё прозаичнее - они хотят получить доступ ко всем данным для того, чтобы (сюрприз, не правда ли?) заработать еще больше денег, устранить конкурентов и посадить людей и компании на свои продукты как на наркотики, да так, чтобы и соскочить нельзя было.

В общем несмотря на схожую динамику с пузырем доткомов этот пузырек бабахнет погромче. И во времена пузыря доткомов, пока он надувался пострадавших не было. Сейчас они уже есть. Просто все мы, кто пользуется любой техникой, в которой есть память, от смартфонов и игровых приставок до больших серверов на работе.

Те, кто пострадал от утечек личных данных.

Бабушка, которую на полгода посадили из-за ошибки нейросетей, которой слепо и тупо доверяли полицейские, и которая кроме очевидного ущерба от сидения в кутузке в 80 лет еще и потеряла дом и собаку из-за этого.

Работники компаний, которые радостно заменяли людей нейросетями и увольняли. А потом этим компаниям прилетел бумеранг правда - результаты не оправдали надежд, они ушли в минус, а 3/4 работников на предложение вернуться ожидаемо показали средний палец, сказав, что лучше они бургеры продавать будут, чем к ним. Ну или уже нашли другую работу

А когда пузырь лопнет - будет большой кризис. Гораздо больший, чем кризис 2008 года и глобальный.

В общем история с ДДТ и прочим когда быстро внедряется то, что требовало осторожности и доработки повторяется.

Кому: Thunderbringer, #1

>подвержены политической цензуре

Алиса Яндексовна на просьбу найти анекдот/скетч про Владимира Владимировича и Дмитрия Анатольевича времён президентства последнего про пуговицу - начинает искать, показывая процес поиска, а в какойто момент все стирает на странице и говорит, что не имеет права такое обсуждать. :)

>для управления критическими процессами и критической инфраструктурой

Убалтывают руководство, которое тупо спускает вниз приказ использовать эти модельки и отчитываться об этом. Т е. надо показать что что-то сделано с из помощью - отчитаться , а делать в реальности ручками, потому как : когда оно облажается (что постоянно происходит) то отвечает тот кто использовал, а не руководство которое приказало использовать ))) .

А подписи под роликом опечатка - неверная длительность. Надо 53:38.

То, что в некоторых компаниях так делают не значит, что так делают везде. Оно же деньги и время экономит, по крайней мере до того, как не устроит проблемы из-за глюков.

О чем можно говорить если каждый год в каждой стране рушится одно или несколько общественных зданий, которые посещают тысячи человек каждый день. И причина везде одна - экономия строительных материалов, нанимают самую дешевую фирму, довольно часто сознательно используют некачественные материалы и нарушают технологии, на бумаге указывая другие, кладя десятки миллионов, а то и миллиарды в карман.

С использованием нейросетей в критической инфраструктуре может вполне случиться та же история - скачают непонятно кем, непонятно как дистилированную версию большой опенсорсной модели, кое-как натаскают на определенную задачу, а по бумагам они будут разработчиками супер-пупер эффективной специализированной модели.

И в один момент, например управляя движением на железной дороге или технологическим процессом на химическом предприятии оно устроит биг бадабум, бада биг бум (с) Пятый Элемент.

Потому, что изначальная большая модель для этого не предназначена, она для общего пользования, о чем разработчики честно предупреждают, а обрезанные версии "сжимают" не всегда корректно и там получается глюк на глюке. И эту глюкалку вдруг обучают тому, что она вообще не должна делать.

Результат будет примерно такой же, как если программу для ардуино для управления игрушечным роботом заставить управлять авиалайнером.

Ну или просто какой-нибудь большой xGPT по подписке подрядят. С этим уже были приколы, когда нейросеть удалила всю базу данных организации с бэкапами.

P.S. тут недавно было видео про то как такой кастрат фирма поставляла с автоматическими кормилками-поилками для животных. Спойлер - пару уморила насмерть, остальные пострадали от голода и жажды.

При этом банальный скрипт и коробочка с реле кормила и поила бы по таймеру без малейших осечек. Но нейросеть со свистоперделками ведь круче, правда?

Пузырь есть, да. Но есть и реальная техническая революция.
Появился инструмент при правильном применении которого производительность труда может возрастать _на порядки_.

Кому: Corsa, #5

> Появился инструмент при правильном применении которого производительность труда может возрастать _на порядки_.

Только вот незадача - у него ресурсоемкость от сложности задачи растет экспоненциально.

Кому: split, #6

> Только вот незадача - у него ресурсоемкость от сложности задачи растет экспоненциально.

Именно так. По сравнению с большими монстрами, специализированная нейросеть для решения некоторых задач в области физики, которую наши ребята обучили это игрушка. "Игрушка" работает на 20 стойках, в каждой из которых стоит ноды 4 процессорами по 96 ядер, по 4Тб оперативки и 4 GPU в каждой в количестве 10шт. Каждая нода кушает два киловатта.

А специализированные нейросети намного эффективнее общих. При этом 80% ресурсов каких-нибудь xGPT идет на генерацию тупых нейропомоев, слежку за людьми (по большей части незаконную с точки зрения конституции большинства государств, а то и законов попроще - корпорации пылесосят личные данные для коммерческих целей без разрешения) и армии ботов в интернете. И лишь небольшая часть работает на науку или еще полезное.

А с правильным применением у людей всегда проблемы. Фармацевтика это прекрасно. но сколько раз в год новые препараты выкидывают на рынок без должного тестирования со всеми вытекающим последствиями. От глючащих нейросетей просто погибших или ставших инвалидами пока очень мало.

Но если их массовыми темпами в таком виде начнут внедрять в критическую инфраструктуру, то результат не заставит долго ждать.


Мы же живем в мире постправды, жадности и коллективной безответственности.

Кому: Thunderbringer, #7

> Именно так. По сравнению с большими монстрами, специализированная нейросеть для решения некоторых задач в области физики, которую наши ребята обучили это игрушка.

Все так. Нервные сети - это специфический инструмент для специфических задач, но продать их пытаются как универсальный. При таком использовании это тераватты энергии на ветер.