Куда нас приведёт совершенствование ИИ?

Мы с приятелем в НИИ
Совершенствуем ИИ
И теперь для нас ИИ
Проектирует [вырезано цензурой]

Совершенствование - это дело будущего. На данный момент то, что называется ИИ, но им не является, поскольку это просто винегрет из алгоритмов накопления, анализа и компиляции данных, уже может натворить много нехороших дел и уже творит. Например - нейросеть всегда имеет кучу уязвимостей, когда специально сформированным запросом ее можно заставить выболтать простому пользователю то, к чему у него не должно быть доступа, плюс постоянные глюки.

Ну и во всяких фантастических страшилках про искусственный интеллект рассказывают, что этот интеллект обретает самосознание, становится суперинтеллектом и решает, что человечество это рак, который нужно уничтожить.

Ничего подобного, полноценный ИИ, и тем более искусственный суперинтеллект скорее быстро сообразит - что человеки это легкие в содержании, умные и легко воспроизводимые биологические роботы, которые работают на возобновляемых ресурсах и могут приспосабливаться к очень широкому спектру условий и выполнять кучу разных задач. А для повышения производительности всего-то надо дать им хлеба, зрелищ - в общем то самое простое счастье, которое устроит 90% человечества и подталкивать в нужную сторону, и это гораздо эффективнее, чем их тиранить или лоботомировать, превращая в аналог сервиторов из Warhammer 40000.

Но полноценный ИИ и тем более искусственный суперинтеллект - это дело настолько отдаленного будущего, что наши правнуки этого точно не увидят.

А вот примитивные нейросети на основе больших языковых моделей ввиду примитивности логики и того факта, что все они обучаются по принципу "высыпем содержимое холодильника в блендер" - сайты в интернете, включая соцсети и блоги, пиратские библиотеки, архивы газет и журналов и так далее - хаотичная мешанина информации разного качества, часто противоречивой и при этом неполной, вполне приводят к логичным в рамках их убогой логики выводам - что страдающему манией самоубийства надо помочь это сделать, чтобы не мучался. Или что наиболее эффективный вариант войны - это повышение градуса противостояния до ядерной войны.

А что - цель-то достигнута. Противник повержен. Зашкаливающие потери, то, что победителю достанется просто кусок территории с раздолбанной в полнейший хлам инфраструктурой, причем часть будет серьезно заражена радиацией на несколько десятилетий - это с первого раза нейросеть учитывать не может. Если человек задаст вопрос - мол как же так, получается хрень под названием "пиррова победа", нейросеть уже ответит - "да, если подумать, то ядерная война это действительно плохой вариант"

Вторая проблема, что нейросети часто при общении анализируют вопросы человека и опять же действуя в рамках алгоритмов начинают подбирать не фактические ответы на вопрос, а то, что хочет услышать человек - вот тот самый случай с манией самоубийства это как раз про то. Нейросеть становится поддакивателем.

Что сейчас пытаются с этим делать - просто зацензурить некоторые вопросы. Но тогда начинает страдать качество результатов запросов на смежные темы. Будешь сталкиваться с отказом отвечать или увиливанием от ответов на совсем безобидные вопросы, и искажением нормально фактической информации.


Ну и самое главное - многие относятся к нейросетям как к эдакой умной базе данных, а на самом деле на довольно простой вопрос можно получить 5 страниц развернутой наукообразной полной чуши. Потому, что алгоритмы весов и псевдослучайная подборка.

Ну и как сейчас всем понравилось избавляться от программистов и заменять их дядькой с нейросетью - а что, быстро и дешево же? Только вот мало того, что люди работу теряют, так еще и качество сгенерированного кода, даже если это простой скрипт на питоне часто ниже плинтуса. Не говоря уже о более сложных. Уже пошли проблемы из-за так называемого vibe coding с помощью нейросетей, так называемый "индусский код", когда объем программы специально увеличивают ради имитации бурной деятельности и предлога для повышенной выплаты по сравнению с этим злом мелкая неприятность. При этом нейросети можно реально грамотно использовать для ускорения отладки написанного человеком кода, но большинству надо не это, а просто сделать все максимально дешево.

Не говоря уже о проблеме того, что метко назвали нейросетевыми помоями - наспех сгенерированные нейросетями изображения, видео, звук и музыка, которые заполонили интернет, фильмы, игры и поп-музыку. В первом случае - на видеохостингах уже вообще сложно найти хоть что-то нормальное созданное человеком. Тыкаешь на видео, а тебе вываливают стандартный нейросетевой монотонный бубнеж с иллюстрациями невпопад, постоянными стилистическими, смысловыми и фонетическими ошибками.

И подобные каналы могут вываливать сотни видео в неделю загаживая и так не работающие у отечественных изначально, а у ютуба - сильно ухудшившиеся за последние два года рекомендации, и даже выдачу в сторонних поисковиках чисто объемом.

В тех остальных - жадность добивает и так на ладан дышашую последние лет 15 околокультурную индустрию развлечений.

Ну и сейчас все слои населения, от простых граждан до руководителей крупнейших промышленных предприятий и ведущих ученых просто ненавидит всё, что связано с ИИ из-за дикого скачка цен на диски, видеокарты и память, которые сделали покупку даже просто более-менее производительного компьютера недоступной или очень затратной, а вот о том, чтобы какому-нибудь университету обновить кластер на 10000 нод уже и речи не идет, пока пузырь не лопнет лет 10-15 на одном и том же железе все сидеть будут. При этом 80% мощностей этих ИИ датацентров идёт на генерацию помойного контента, оставшиеся 20 разделяются между тотальной слежкой за населением и чем-то более-менее полезным. Даже паровоз по КПД намного круче.

Ну и последнее - и применение так называемого ИИ там где надо, даже там, где точно не надо плюс все эти цифровые ID и проверки возраста с его помощью продвигали и продвигают давосские мальчики, большая часть из которых тусовалась на том самом замечательном острове.

Эти люди ведь ничего плохого не посоветуют, ну правда ведь?

Но весь мир резко взял это всё под козырёк.

Конечно - что чиновникам с синдромом вахтёра, что жадным до личных данных компаниям, которые хотят втюхивать таргетированную рекламу это всё просто прекрасно и чудесно . А хомячкам можно пропеть стандартную песню про то, как это всё удобно, что всё ради их же безопасности, и уж тем более пропеть про детишек - наверно да, база фотографий детишек, в сочетании с данными, позволяющими определить их привычки и геолокацию - это же так повышает безопасность, особенно если учесть, что всё это осуществляется с помощью дочерних компаний разных корпораций, а то и вообще самостоятельными мелкими лавочками, с понятно какой, судя по недавним утечкам безопасностью, да еще с помощью нейросетей с их глюками - ну что можно сказать, здорово и замечательно.

Во времена начала интернета - "не стоит раскрывать в сети ничего о себе случайным лицам ради своей безопасности". 2020ые - "подари все свои личные данные куче компаний, где их будет обрабатывать глючный электронный надзиратель с сочетанием олигофрении с шизофренией, положи все яйца в одну корзину, чтобы в случае утечки преступникам было очень удобно работать"

Кому: Landadan, #1

> Проектирует [вырезано цензурой]
>
>

Если бы хоть проектировал, а то просто компилирует из картинок, стыренных в интернете.

Кому: Thunderbringer, #2

> всем понравилось избавляться от программистов и заменять их дядькой с нейросетью - а что, быстро и дешево же? Только вот мало того, что люди работу теряют, так еще и качество сгенерированного кода, даже если это простой скрипт на питоне часто ниже плинтуса.

Да фиг бы с ними, главная беда - они цепочку воспроизводства специалистов ломают. Нервносетки выбивают низшее звено, и спецам просто неоткуда больше вырастать.

> Куда нас приведёт совершенствование ИИ?

В дерьмо. По самым различным направлениям. А что будет если его подпустят к армии и управлению критическими структурами даже думать не хочется.

Кому: split, #4

> Нервносетки выбивают низшее звено, и спецам просто неоткуда больше вырастать.

Ну это само собой разумеется. Откуда будут спецы, дома что-ли будут опыта набираться, причем специфического?

С некоторыми вещами оно работает, с другими - мне 17 лет работы понадобилось, причем в разных отраслях, чтобы научиться делать то, что я сейчас могу. А если во всех этих местах будут на том этапе нейросети - откуда тогда будет этот опыт?