Чудовищная антиутопия в реальности

11.11.20 20:17 | Goblin | 101 комментарий »

Разное

Цитата:
— Получается, искусственный интеллект помогает одним людям более эффективно эксплуатировать других?

— Да. Как ни странно, он не освобождает труд, а закрепощает еще сильнее. Есть много примеров этому. Взять хотя бы историю с американской компанией Amazon, которая частично перевела свои склады на автоматическое обслуживание. Там ездят такие большие быстрые плоские таблетки типа роботов-пылесосов и перевозят товар. Все равно кто-то должен товары на эти таблетки грузить, а этих и так уже социально достаточно ущемленных и подавленных людей, в основном мексиканцев, поставили под контроль ИИ. Там установили камеры, которые научили распознавать перекуры, перерывы в работе, хождение, не связанное с выполнением прямых служебных обязанностей, и так далее. Сейчас людей непрерывно гоняют электронным хлыстом, штрафуют, наказывают, увольняют за мельчайшие нарушения, делают из них роботов, короче говоря. Про это было уже достаточно много публикаций. Более того, кто-то даже уже в суд подавал.

В такой конфигурации ИИ не облегчает труд людей, а становится электронным надсмотрщиком, который не знает жалости, не ведает усталости, не отворачивается, с которым нельзя договориться, упросить или разжалобить. Начинается какая-то чудовищная антиутопия в реальности. При этом никакого собственного интеллекта в искусственном интеллекте нет. Просто одни люди используют электронный хлыст, чтобы хлестать других людей с целью выжать больше денег. У них нет другой цели.
Игорь Ашманов: Начинается какая-то чудовищная антиутопия в реальности

Дивный новый мир.
Собственно, всё это нам рассказывали коммунисты ещё в далеком детстве.
Вконтакте
Одноклассники
Telegram

Вступай в нашу группу ВКонтакте

Комментарии
Goblin рекомендует заказывать создание сайтов в megagroup.ru


cтраницы: 1 | 2 всего: 101, Goblin: 2

Цитата
отправлено 11.11.20 20:17 | ответить | цитировать # 1


Игорь Ашманов: «Начинается какая-то чудовищная антиутопия в реальности»
Куда нас заведут искусственный интеллект и монополии типа «Яндекс.Всё» и «Сбер.Всё»?

Вадим Бондарь

«Как ни странно, ИИ не освобождает труд, а закрепощает еще сильнее. Одни люди используют электронный хлыст, чтобы хлестать других людей с целью выжать больше денег», — говорит президент компаний «Ашманов и партнеры» и «Крибрум» Игорь Ашманов. Он рассказал «БИЗНЕС Online о том, что «уберизация» экономики лишает людей защиты, тотальная слежка — уже реальность, «цифровое бессмертие» — плохая идея, а через 15 лет Россию могут уничтожить сверхоружием на основе ИИ.

У каждого есть в смартфоне «Яндекс.Карты» и «Яндекс.Навигатор» — это сложные программы искусственного интеллекта. Тут так же, как с проверкой правописания — 50 лет назад это могли делать только очень образованные людиУ каждого есть в смартфоне «Яндекс.Карты» и «Яндекс.Навигатор» — это сложные программы искусственного интеллекта. Тут так же, как с проверкой правописания, — 50 лет назад это могли делать только очень образованные люди»Фото: «БИЗНЕС Online»

«В ЛЮБОМ СМАРТФОНЕ ДЕСЯТКИ ПРОГРАММ ИСКУССТВЕННОГО ИНТЕЛЛЕКТА»

— Игорь Станиславович, хочется начать нашу беседу с цитаты руководителя лаборатории машинного обучения «Яндекса» Александра Крайнова: «Про искусственный интеллект говорят и пишут очень много. Заголовки почти всегда стараются сделать максимально эффектными, что, увы, приводит к неправильному пониманию того, что такое искусственный интеллект. Для многих ИИ — это пока что-то вроде чуда, с ним связаны различные заблуждения, страхи, надежды и фантазии. Так что же такое искусственный интеллект?

— Если брать техническое определение, а не голливудские выдумки, то ИИ — это такой набор алгоритмов, программных правил, методов оптимизации, машинного обучения и так далее, который позволяет машине имитировать некоторые когнитивные (то есть умственные) функции человека. Именно имитировать.

При этом есть такая специфическая романтика ИИ, которую привносят разнообразные книги про ИИ, фильмы про человекоподобных роботов и так далее, которая обычно касается нерешенных задач искусственного интеллекта.

Как только задача имитации какой-то конкретной когнитивной функции решена, романтический флер с нее сдувается, ей тут же начинают пользоваться в быту, и большим художникам это становится уже не интересно, нет драмы. Вот робот, который совсем-совсем как человек…

Вообще, программой искусственного интеллекта можно назвать любую компьютерную программу, которая автоматически анализирует какие-то данные и принимает решения. Например, если у вас жилой дом или офисное здание имеют много этажей и несколько лифтов, то ими, конечно, управляет программа искусственного интеллекта. Ей надо понять, где какие лифты, где уже люди едут, какой вам лифт прислать, если вы нажали кнопку вызова, или какой и где остановить, чтобы оптимизировать время подачи и доставки. Вокруг нас уже есть своеобразное облако бытового искусственного интеллекта.

— Уже есть?

— Да, конечно, причем десятки лет, поскольку заниматься этим люди стали уже довольно давно. Лично я пришел после вуза в отдел искусственного интеллекта вычислительного центра Академии наук в 1983 году. Вычислительный центр АН СССР — это был такой большой академический институт на 500 с чем-то сотрудников. Он и сейчас существует в Москве, находится по адресу: улица Вавилова, 40. Там был отдел искусственного интеллекта, которым руководил Гермоген Сергеевич Поспелов — академик, глава совета по искусственному интеллекту при Академии наук. То есть к 1983 году ИИ уже разрабатывали много лет, и уже было довольно много сделано.

Движуха в нашем ВЦ шла вовсю: в соседней с нами комнате делали распознавание речи, в другой — диалоговый процессор, в третьей — развивали антивирус Dr. Web, в четвертой Пажитнов делал игру «Тетрис», в пятой Веселов писал редактор «Лексикон» и так далее. В нашем отделе занимались, в частности, анализом речи, текстов и чертежей. Уже тогда в ВЦ АН была работающая система, которая находила размерные линии, считывала размер, отделяла друг от друга разные детали и так далее. В это же время по всей стране делали системы управления, автоматической посадки и тому подобное.

То есть этим всем в нашей стране занимаются уже довольно давно. Вот Гермоген Сергеевич Поспелов, академик, боевой генерал, который участвовал в Великой Отечественной войне, ныне уже покойный, занимался ИИ еще в годы ВОВ, а именно автоматической посадкой самолетов на аэродром. Если вы помните, наш космический челнок «Буран» в ноябре 1988 года летел и садился в полностью автоматическом режиме, с точностью до 1 секунды и 1,5 метра полосы, им управлял искусственный интеллект. В любой крылатой ракете с момента их появления есть искусственный интеллект. Другое дело, что в некоторых случаях (например, в системе С-300) этот ИИ мог быть в некоторых подсистемах не цифровой, а аналоговый. То есть, условно говоря, там вместо модных сейчас нейронных сетей, машинного обучения или каких-то цифровых алгоритмов, написанных на языке программирования, использовалось что-то другое — аналоговым способом решались дифференциальные уравнения. Но не это важно, а то, что крылатая ракета вот уже 50 лет как распознает по фотографиям местность и летит на небольшой высоте туда, куда ей задано, а С-300 автоматически наводится на многие цели сразу.

— То есть не «пройдет время — и технологии искусственного интеллекта станут такой же привычной частью жизни, как лампочка и розетка», а они уже ими стали, просто мы об этом не задумываемся и воспринимаем как должное?

— Да. «Бытового» искусственного интеллекта уже очень много вокруг нас. Скажем, в любом смартфоне десятки программ искусственного интеллекта. Там есть распознавание пальца, лиц по фотографии, сейчас в последней модели смартфонов от Huawei или Samsung вы наводите камеру, а она вам пишет: «Люди, зелень, снег, вода, зима, осень», — и так далее. То есть там стоит «распознавалка» объектов, пейзажей, сезонов и тому подобное. Есть «болталка»: «Алиса», «Окей, Google» или какая-то другая. И так далее. В каждом таком смартфоне или компьютере есть, к примеру, программа проверки правописания. Я занимался этим довольно много. Как раз в вычислительном центре АН СССР мы сделали эту программу, которая сейчас работает в каждом русскоязычном Microsoft Office. Мы впервые ее выпустили в 1988 году.

Это иллюстрация того, что, когда нечто уже сделано, оно не вызывает никакого восхищения, трепета или ужаса, его просто перестают замечать. Работает, мы все пользуемся — ну понятно, что тут такого.

Алгоритм Т9, который есть у всех на смартфонах, сокращает время набора и мучает внезапными дурацкими подстановками слов — тоже довольно сложный искусственный интеллект. Поисковик «Яндекса» — мощнейший искусственный интеллект, гигантский, в который ежемесячно вкладывается труд 500–600 человек.

Антивирус Касперского — тоже искусственный интеллект, потому что вообще любая программа распознавания — это искусственный интеллект, а антивирусная программа должна распознавать разнообразнейшие вирусы и трояны, которых в год пишется несколько миллионов. Это очень сложный искусственный интеллект.

У каждого есть в смартфоне «Яндекс.Карты» и «Яндекс.Навигатор» — это сложные программы искусственного интеллекта, которые за человека выбирает маршрут. Тут так же, как с проверкой правописания, — 50 лет назад это могли делать только очень образованные люди, а сейчас такое под силу любому устройству. То же самое с прокладкой маршрута. Это довольно сложная задача даже для опытного водителя, знающего город, где какие пробки, возможные объезды, развороты и ремонты, а сейчас за секунду-две ИИ всё идентифицирует, и к этому все привыкли.



— Это уже решенные задачи ИИ, которые стали частью нашей жизни. Но есть же еще масса нерешенных.

— Да, на другой стороне, где еще сохраняются эта романтика и страх перед машиной, есть нерешенные задачи искусственного интеллекта, которые сейчас пытаются решить. Это происходит всю историю ИИ — переползание задачи с одной стороны на другую, в категорию решенных.

Скажем, распознавание лиц было такой совершенно непонятной и нерешаемой задачей 10 лет назад. Какие-то программы распознавания лиц делались, но они работали плохо, с большим количеством ложных тревог. В 1990 и 2000 годах были попытки поставить камеры и распознавание лиц в аэропортах и по городу (в Лондоне, Атланте и так далее), их через несколько месяцев везде в ужасе отключили — было столько ложных обнаружений «преступников», что отделы полиции захлебнулись. А сейчас, спустя 15–20 лет, после появления новой техники (графических карт) и глубоких нейронных сетей это делают повсеместно, все работает.

Распознавание тематики текста 20 лет назад было серьезной задачей. Распознавание объектов на фотографии — сейчас практически все интернет-сервисы и гигантское количество интернет-программ распознают живые и неживые объекты. Узнают кошку, собаку, человека и так далее, и это уже кажется тривиальным. 10 лет назад, когда я пытался нанять лучших в России специалистов по распознаванию образов, они не решались такое сделать. Брались распознавать лица, потому что известно, что такое лицо, а любую кошку автоматически назвать на фотографии кошкой они не брались. Потом, где-то 8 лет назад, произошел прорыв в нейронных сетях и объекты на фотографиях и видео стали распознавать. Это в некотором смысле уже ширпотреб сейчас.

Сейчас не решена пока задача нормального диалога на естественном языке с машиной. Машина не может поддерживать связного диалога, держать фокус, понимать необычные вопросы. Хотя тема чат-ботов модная, чат-ботов предлагают много, которые как бы говорят (в том числе голосом — задача синтеза и анализа речи в целом решена), но обменяйтесь с ботом хотя бы несколькими связанными репликами — и вы поймете, насколько он все еще тупой.

Не решена задача хорошего, настоящего перевода, машинного перевода с языка на язык, хотя сейчас за счет тех же нейронных сетей машинные переводы стали довольно гладкими. Они стали намного лучше, чем 25 лет назад, когда я этим занимался.

— Лично столкнулся с машинной расшифровкой диктофонной записи текста — это же просто ужас. Проще все это сделать вручную, чем потом исправлять ошибки за машиной.

— Это отдельная интересная история про порог использования системы ИИ. Когда мы делали проверку правописания, мы понимали, что у нее есть порог использования, потому что реальных ошибок на странице всего несколько — от 2–3 до 4–6. Если у системы будет больше неизвестных слов, то есть ложных срабатываний, лишних «подсветок», чем реальных опечаток на странице, никто не будет использовать. Нужно было преодолеть этот порог, добиться такой полноты словаря, чтобы у системы оказывалось не более 1–2 неизвестных ей слов на странице. С машинным переводом такая же история. До какого-то момента переводить текст, например, с английского на русский было выгоднее просто с нуля, потому что переводчику нужно было нажать меньше клавиш при переводе с нуля, чем при исправлении корявого результата машинного перевода.

Но сейчас этот порог преодолен, и тут же произошла другая ужасная вещь — сейчас стало невозможно заказать чисто человеческий литературный перевод. Качество перевода резко упало. Сейчас все, даже самые дорогие переводческие конторы, которые называют себя суперспециалистами, вначале дают текст перевести машине, а потом человек дорабатывает то, что получилось. По сути, ты платишь только за качество «выглаживания» машинного перевода. Фрилансер подсунет вам сырой результат, прямо со всеми глупостями МП, переводчик из бюро все-таки как-то подчистит косяки МП. Все используют Google или «Яндекс», в результате в тексте всегда видны артефакты — следы машинного перевода. И эти «косяки» плохого машинного перевода вылезают даже после перевода тех, кто утверждает, что от начала до конца текст переводил человек. МП все равно делает ляпы, заговаривается, подставляет не те значения, а те, кто выглаживает текст после МП, уже даже не заморачиваются полезть в словарь и проверить странное место. Машинный текст перевода стал настолько относительно хорош (оставшись плохим), что его выгоднее «докрутить», чем делать перевод человеком от начала и до конца. В итоге этому искушению не может противостоять ни одно даже самое крутое переводческое бюро, даже самое пафосное. Так экономика вместе с ИИ сожрала или «перепрошила» человеческих переводчиков.

Так вот, у упомянутых вами программ, которые транскрибируют свободную звуковую речь, пока этот порог, похоже, не преодолен. Примерно каждое третье-четвертое слово не соответствует тому, что было действительно сказано (это легко видеть в автоматических титрах на YouTube), и править в итоге такой текст сегодня более трудозатратно и долго, чем обработать его вручную, без использования машины.

Такой порог использования в ИИ есть везде. В очень многих программах, которые как бы демонстрируют отличную работу, на самом деле этот порог не преодолен. В диалоговых ботах он также не преодолен, как мне кажется, в дистанционном образовании то же самое. Он по многим параметрам не преодолен в беспилотниках. БЛА пока на улицы не выпускают.

Не взлетела виртуальная реальность, несмотря на крайнюю зрелищность и активность втюхивания. Очки с VR, начиная с девяностых, на рынок заходили трижды. Все три раза эти заходы провалились«Не взлетела виртуальная реальность, несмотря на крайнюю зрелищность и активность втюхивания. Очки с VR начиная с 90-х на рынок заходили трижды. Все три раза эти заходы провалились»Фото: «БИЗНЕС Online»


— Я уже упоминал надежды и фантазии, связанные с искусственным интеллектом. Что в них имеет под собой реальную основу, а что не реализуемо в обозримой перспективе или в принципе?

— Про всех людей вообще, которые что-то думают и фантазируют себе по поводу искусственного интеллекта, я сказать не могу. Есть, так скажем, категории людей, которые с искусственным интеллектом так или иначе соприкасаются, не считая массового пользователя. Это разработчики ИИ, которые смотрят на него очень практически, скучно, прагматично, они делают системы искусственного интеллекта, понимают, что у данного продукта есть определенный уровень качества, условно говоря, полнота и точность того, что он делает, порог использования.

Почти все элементы ИИ — это системы распознавания, у них основные критерии качества — полнота и точность (то есть степень распознавания всех нужных явлений и уровень ложных срабатываний). У этих людей нет особых романтических иллюзий по поводу того, что они делают, как в известном стихотворении Анны Ахматовой: «Когда б вы знали, из какого сора растут стихи, не ведая стыда», — потому что они знают, что там «под капотом». Часто, если заглянуть внутрь работающей системы, которую прямо вот используют массово, там будет ужас-ужас-ужас. Огромное количество дыр, «заплат», «костылей», временных решений, тем не менее ИИ работает, результат какой-то дает и в целом выполняет свою задачу.

Есть так называемые «евангелисты» искусственного интеллекта (хотя это неудачное название, эти инфоцыгане с настоящими евангелистами не имеют ничего общего, но оно прижилось на Западе), которые рассказывают, как от ИИ все скоро заколосится, зацветет, как все будет идеально, как ИИ станет делать буквально все, вот тогда-то заживем и тому подобное. Как правило, в этом амплуа выступают не технари, а журналисты, банкиры, маркетологи, всякие гуманитарии, которые некритично пересказывают басни своих технических подчиненных.

Есть еще более адекватные гуманитарии, которые пытаются все это осмыслить. Они пишут книги-утопии или антиутопии, снимают фильмы про ИИ, в первую очередь в Голливуде. Но почти во всем, что они делают, конечно, огромный разрыв с реальностью. Там, к большому сожалению, еще есть разрыв вот в чем: очень умные люди, писатели-фантасты высокого класса, в 50–60-е годы все эти проблемы, связанные с искусственным интеллектом, уже разобрали. Шекли, Брэдбери, Саймак, Азимов и другие всё возможное будущее систем ИИ уже принципиально разобрали и очень наглядно описали. К сожалению, современные «евангелисты», похоже, ничего этого в детстве и юности не читали и фантазируют с нуля, а ноль у них расположен довольно низко.

Скажем, есть типовые басни «ИИ-евангелистов» о том, как будет развиваться интернет и искусственный интеллект, которым уже, наверное, лет 30. Это уже просто маркер такого безграмотного «евангелиста», таких маркеров много. Например: «Ура, холодильник скоро будет умным — его соединят с интернетом, он будет смотреть, когда у вас заканчиваются продукты, сам станет их через интернет заказывать, и вам их будут доставлять. Таким образом, холодильник у вас будет всегда полон, потому что он будет умным и проследит за вашим питанием за вас». Эту дурацкую выдумку рассказывают уже лет 30. Таких холодильников по-прежнему нет (точнее, такие стартапы даже запускали, ничего не вышло), и я думаю, что их не будет. Просто потому, что они никому не нужны. Большинство людей не захотят есть то, что им назаказывает искусственный интеллект.

Другая ИИ-басня — о том, как ваш персональный ИИ-агент сам подберет вам страну и отель для отдыха. Но большинство людей хотят сами все это подбирать и не хотят ехать куда-то по чужому, даже самому умному выбору.

Не взлетела виртуальная реальность, несмотря на крайнюю зрелищность и активность втюхивания. Очки с VR начиная с 90-х на рынок заходили трижды. Все три раза эти заходы провалились. Подташнивает, неудобно, оббиваешь коленки о мебель, портится зрение и так далее. Похоже, это просто не очень нужно.

То же самое с дополненной реальностью. Вы надеваете очки, и вам там сбоку, по краю поля зрения, что-то пишут или показывают что-то, круто же! Прямо как у Терминатора в кино, вы имеете дополнительную информацию обо всем. Умные очки Google Glass с такими функциями продвигали с большой помпой, если помните, но закрыли через несколько лет. Во-первых, похоже, такое вообще не нужно. Во-вторых, портится зрение, на обычные очки не наденешь, а в-третьих, окружающим людям не нравится, когда на них смотрят через компьютерные очки и что-то там про них себе смекают.

Когда IT-хипстеры стали покупать Google Glass и с гордостью носить везде, в целом ряде заведений, ресторанах, кафе в Калифорнии на входе стали писать: «Сюда с Google Glass нельзя». Потому что клиентов пугает, когда их кто-то снимает встроенной в очки камерой, распознает по лицу или делает что-то еще.

В общем, у «ИИ-евангелистов» очень много фантазий о том, что людям на самом деле оказывается не нужным: даже если технологии в рекламе и фильмах выглядят впечатляюще, вызывают ощущение «ух, круто!», они потом оказываются никому не нужными. Например, 3D-телевидение (да и 3D-кино) практически умерло. Телевизоры с 3D сняты с производства всеми основными производителями, остались только немногие топовые модели с 4К. А ведь как это круто, казалось бы. Может быть, оживет на новом витке технологии, когда не будут нужны очки.

Вот еще пример: во всех фантастических фильмах есть видеофон. Большие экраны по всем комнатам, рубкам кораблей, в офисах и т. п. Ну вот, технологии доросли, передача видео есть, скорости есть: казалось бы, и что, у нас такой видеофон есть? Как бы есть, но на самом деле нет. У нас есть видеосвязь, которая используется достаточно узко — для удаленной работы, для видеоконференций в офисе, чтобы поговорить с далекими родственниками. Никто не ставит себе в спальню и на кухню огромный экран и камеру, чтобы было видно, в каких трусах вы сегодня сидите.

— Сейчас, кстати, «удаленка» в связи с карантином активно заставляет людей всем этим пользоваться.

— Да, и она уже вызывает все большее раздражение. Всем этот эффект присутствия 24×7 начальника и коллег у себя в доме надоел, никто этого не хочет. Общие отзывы таковы, что в удаленном режиме качество работы падает. Многие люди не в состоянии наладить нормальную продуктивную коммуникацию исключительно по компьютерной сети.

В образовании, мне кажется, «удаленка» показала крайнюю неэффективность. И это будет катастрофа, если продолжать в том же духе. Отличники останутся отличниками, хотя и получат значительно меньше знаний, а отстающие вообще перестанут учиться в принципе. По-моему, всем стало ясно, что учиться на «удаленке» нельзя. Это профанация. Многие работники образования говорят, что такие проблемы даже во благо — произошла своеобразная вакцинация от удаленного образования.

— Сегодня тестируются самые разные беспилотные автомобили, самолеты, надводные и подводные суда. Как скоро это все массово войдет в нашу жизнь и мы станем ездить на работу, летать и плавать в отпуск и деловые поездки на транспорте без управления человеком?

— Уже сейчас довольно много летает этих беспилотников. Они пока что в основном управляемые, но есть и автоматические, которым вы можете задать маршрут и они будут летать и снимать посевы, или полетят вдоль трубы «Газпрома» в тайге, чтобы найти утечки газа. Будут беспилотные автомобили на улицах. Беспилотные поезда уже есть, лично на них уже много раз ездил. В Нью-Йорке, Мюнхене и в Шанхае между терминалами аэропорта ездят поезда без машиниста. Там небольшое расстояние, все понятно, нужно только не придавить дверью какого-нибудь пассажира, что достигается датчиками, и всё.

Про авиацию уже сейчас говорят, что 90–95 процентов всех посадок Airbus и Boeing на полосу осуществляется автопилотами, а не людьми.



— Если весь транспорт станет беспилотным, то куда девать людей, которые сейчас им управляет и обслуживает? Их ведь многие миллионы, а с учетом семей — десятки миллионов.

— Про искусственный интеллект постоянно говорят, что он может лишить работы миллионы людей, что создаст социальные проблемы. Это не так, это «замыливание» реальной социальной и общественной проблемы. Ведь искусственный интеллект сам никого не увольняет, не крадет рабочие места. Социальные проблемы не создаются техническими устройствами. Они порождаются теми кадровиками и управленцами, которые увольняют людей ради дешевой экономики по приказу акционеров. Если в какой-то стране считается приемлемым (с точки зрения закона и общественной морали) увольнять десятки миллионов людей ради грошовой экономии, то это вопрос к социальному строю и к обществу, а вовсе не к ИИ.

Да, наверное, искусственный интеллект может сделать какие-то процессы более эффективными, но когда, взяв это за основу, говорят: «Давайте тогда всех работников уволим», — то вот здесь начинается проверка этого социального строя. Он вообще чем занимается, он только на оптимизацию и эффективность извлечения прибыли настроен? Вообще говоря, государственный и социальный строй не должен быть настроенным на бизнес-эффективность (притом не для всех, а для собственников предприятий), он должен быть настроен на то, чтобы составляющим его людям жилось лучше, а не хуже. И в этом смысле, даже если бы у нас было идеальное государство и была бы возможность всех уволить и всех заменить роботами, государством и обществом было бы принято решение этого не делать.

Возьмем конкретную проблему массового беспилотного транспорта. Сейчас только у «Яндекс.Такси» (только что они его зачем-то переименовали в нелепый лексический гибрид «Яндекс Go») по стране ездят 500 тысяч водителей. У него этих «как бы работников» больше, чем у «Газпрома». Почему «как бы»? Потому что «Яндекс», по сути, являясь их работодателем, всячески от своей роли открещивается, заявляя, что его функция состоит в исключительно информационном посредничестве. Почему? Если ты являешься работодателем, то несешь социальную ответственность, а «Яндекс» не хочет ее на себя брать. И он не единственный в своем роде. Все это разделение на гигантских инфопосредников и «независимых» исполнителей называется «уберизацией» экономики и социальных процессов, потому что первым это делать стал мировой сервис такси Uber.

Что это значит? Подобные Uber компании перевели массы людей в положение как бы индивидуальных предпринимателей, которые социально не защищены. Они работают, по сути, за такую же зарплату, как если бы они были просто наемными водителями, но отпусков, бюллетеней, социального пакета, защиты от несправедливых увольнений и штрафов работодателя у них нет. Устал, заболел, семейные неприятности — твои проблемы, деньги перестают поступать в ту же минуту, пожалуйте на улицу или биржу труда. А сами эти гигантские информационные посредники, зарабатывающие огромные деньги, за социальное положение и права работников не отвечают. На мой взгляд, это просто такой бизнес-трюк, который должен быть запрещен.

Сейчас эти информационные посредники говорят: «А теперь мы научим машину саму ездить, причем обучим ее на примерах (дата-сетах) работы этих самых рабов навигатора». А потом эти миллион водителей станут ненужными. Компании втянули миллионы людей в этот бизнес, а потом, когда выгонят на улицы беспилотники и уволят этих бедолаг через 4–6 лет, те уже ничего другого уметь не будут. Они будут только уметь водить машину, а этот навык станет никому не нужным. Они и сейчас довольно сильно социально подавлены. Ими управляет искусственный интеллект, который рассчитывает их доход, накладывает все больше ограничений, считает социальный рейтинг водителя (что само по себе нехорошо). Положение работников не улучшается. В России уже есть несколько общественных движений и организаций, которые борются с «Яндекс.Такси» и другими аналогами. Там, на самом деле, очень серьезная эксплуатация с искусственным интеллектом в качестве надсмотрщика. Не очень хорошая история.

Это первые предвестники грядущего так называемого суперкапитализма, перед которым текущий капитализм покажется нам детским садом.

— Получается, искусственный интеллект помогает одним людям более эффективно эксплуатировать других?

— Да. Как ни странно, он не освобождает труд, а закрепощает еще сильнее. Есть много примеров этому. Взять хотя бы историю с американской компанией Amazon, которая частично перевела свои склады на автоматическое обслуживание. Там ездят такие большие быстрые плоские таблетки типа роботов-пылесосов и перевозят товар. Все равно кто-то должен товары на эти таблетки грузить, а этих и так уже социально достаточно ущемленных и подавленных людей, в основном мексиканцев, поставили под контроль ИИ. Там установили камеры, которые научили распознавать перекуры, перерывы в работе, хождение, не связанное с выполнением прямых служебных обязанностей, и так далее. Сейчас людей непрерывно гоняют электронным хлыстом, штрафуют, наказывают, увольняют за мельчайшие нарушения, делают из них роботов, короче говоря. Про это было уже достаточно много публикаций. Более того, кто-то даже уже в суд подавал.

В такой конфигурации ИИ не облегчает труд людей, а становится электронным надсмотрщиком, который не знает жалости, не ведает усталости, не отворачивается, с которым нельзя договориться, упросить или разжалобить. Начинается какая-то чудовищная антиутопия в реальности. При этом никакого собственного интеллекта в искусственном интеллекте нет. Просто одни люди используют электронный хлыст, чтобы хлестать других людей с целью выжать больше денег. У них нет другой цели.

При этом есть еще такое соображение: позволить себе создать собственный беспилотник смогут не все службы такси. В нашей стране, скорее всего, — только одна. Не все электронные магазины смогут поставить себе роботизированный склад, это очень дорого, таких будут единицы, вроде Amazon. Это значит, что произойдет дальнейшая монополизация, своего рода «Яндекс.Всё» или «Сбер.Всё»: собственно, Греф только что нам это пообещал, как обычно, с энтузиазмом IT-евангелиста, как будто мы должны этому радоваться вместе с ним.

Во всех сферах всё будет во власти несколько частных, огромных, безжалостных «платформ» или, как они сами любят говорить «экосистем», которые будут иметь одну задекларированную цель — прибыль.

Эта монополизация, естественно, также будет происходить со все возрастающей степенью эксплуатации и ущемления прав людей. Как бы не пришлось государству эти разные экосистемы, в конце концов, национализировать, чтобы эти социальные проблемы, монополизацию и ужесточение ИИ прекратить.

Вот когда «Яндекс» всех этих людей, «которых он приручил», через 5–7 лет выгонит на улицу, потому что выкатит на улицы свои беспилотные такси, что мы будем делать? Непонятно. Я не знаю, думает ли наше государство на эту тему вообще. Полагаю, в Европе или США из государственных людей на эту тему никто особенно-то не думает и не тревожится в принципе, поскольку в неолиберальной экономике и социальном устройстве это же естественный процесс: ты не вписался в рынок — ну извини, каждый сам за себя. Может, дадим тебе безусловный базовый доход (очень модная на Западе тема), чтобы на жилье, еду и пиво как-то тебе хватало. И не бухти, не высовывайся.

Хотя нам в 1991 году тоже объявили, что теперь каждый сам за себя, но мы исторически, ментально все-таки несколько другие: у нас Цивилизация «Мы», по Александру Зиновьеву. Ответственность друг за друга, за свой ближний круги и за общество в целом у нас пока еще развита больше, чем в Цивилизации «Я» на Западе. Мы должны предвидеть и «стерилизовать» надвигающиеся социальные проблемы, связанные с цифровизацией всего. Но вот как это делать в новых условиях, я пока не очень понимаю.

Вообще на это все должна быть направлена напряженная деятельность государства и законов, потому что остается мало времени, все слишком быстро развивается, но пока непонятно, кто бы мог и был бы должен этим заниматься.

Мы недавно разговаривали в совете по правам человека при президенте России о том, что нам нужен некий цифровой кодекс, который защищает человека, попавшего в эту цифровую круговерть. Нужно защитить цифровую идентичность, приватную жизнь и так далее, в частности, необходимо закрепить на законодательном уровне, что нельзя использовать цифровые технологии для ухудшения жизни граждан. Не должны системы искусственного интеллекта, работающие в автоматическом режиме, принимать жизненно важные решения относительно людей. Я надеюсь, что этот цифровой кодекс когда-нибудь появится. Рассчитывать на «саморегулирование бизнеса» нам не стоит. У владельцев новых технологий возникает очень много соблазнов использовать искусственный интеллект там, где он будет дискриминировать человека. Например, ИИ банка проанализирует все данные о вас (купленные у разных платформ), и банк откажет вам в кредите, а поскольку это «черный ящик», он даже не объяснит вам (да и своему владельцу), почему не дал кредит. Та же история может быть с приемом в ВУЗ и так далее.

Если мы всё про вас знаем, то цена для вас на товары и услуги может быть другой. Уже сейчас, когда вы летите в самолете, сидящий рядом с вами человек мог заплатить за такое же место в три раза больше или меньше, чем вы, потому, что цена билетов все время меняется. Сейчас она нестабильна в связи с заполненностью рейса, еще чего-то, но обязательно будет меняться исходя также из того, какой толщины у вас кошелек. Та же история с медициной — с тех, у кого острые заболевания, можно брать больше денег, они все равно в отчаянии.

Еще один очень важный аспект — это ошибки искусственного интеллекта, за которые никто пока не несет ответственности, потому что ответственность «размазана» по разработчику системы, производителю, владельцу и оператору.

Упомянутые «ИИ-евангелисты» в своем вдохновенном камлании выкрикивают, что если искусственный интеллект хорошо работает, то он функционирует лучше, чем человек на этом месте. Он лучше ставит диагноз и делает операции лучше, чем врач, он может судить лучше, чем судья, он неподкупный, у него нет пристрастий и так далее. Но с судьи или врача можно хотя бы спросить за неудачное решение, ведь они отвечают репутацией, карьерой, даже свободой. А что вы спросите с ИИ? Вам в ответ скажут: «Да, это была недоработанная версия, мы уже поставили новую, не переживайте, в следующий раз будет все нормально», — но для кого-то следующего раза уже не будет! В данный момент цена ошибки искусственного интеллекта почти никем из тех, кто отвечает за развитие нашего общества и государства, не осмысливается, из-за огромного хайпа вокруг «ништяков», которые обещает ИИ.

Сейчас есть попытки некоторых разработчиков ИИ развить что-то вроде теории игр для ИИ, называемой лукавой «этикой ИИ», но это довольно нелепые и гуманитарно слабые попытки ставить и решать задачки типа «кого давить беспилотнику — двух бабушек-пенсионерок или красивую юную блондинку». Естественно, все в итоге сведется к деньгам — кто и кому будет платить за пострадавших бабушек, — потому что другого критерия на Западе нет, да и в ИИ нет другой ответственности, ведь там нет внутри человека.

Этого не должно быть. Надо как-то защищаться от наступления эпохи тотального (тоталитарного) искусственного интеллекта.



«БОЛЬШИНСТВО АЛГОРИТМОВ ИИ ПРЕДСТАВЛЯЮТ СОБОЙ «ЧЕРНЫЙ ЯЩИК»

— Отдельная тема — заблуждения и страхи. В советские времена ходила такая полубайка о том, как Брежневу показали танк с элементами искусственного интеллекта, который на полигоне отлично воевал: прятался в складках местности, выявлял угрозы, наносил удары, не давал себя уничтожить. Брежнев спросил, где экипаж. Ему ответили, что экипажа нет, это умная машина, она сама все видит, обдумывает и воюет. Брежнев подумал и сказал: «Нет, такой танк нам не нужен». Ученые удивились, почему, ведь ни у кого в мире ничего подобного нет! А он ответил: «Ни вы, ни я, вообще никто не знает, как мыслит эта машина и куда заведут ее мозг эти размышления. Сейчас она воюет за нас, а потом в ходе боя возьмет и передумает, повернется и начнет воевать против нас». И проект свернули. Не берусь оценивать, правда это или нет, но, взяв этот пример за отправную точку, расскажите о заблуждениях и страхах связанных с ИИ.

— На мой взгляд, это лишний страх, который из голливудчины всякой идет, потому, что разработчики искусственного интеллекта, конечно, понимают, что находится там, в условной голове. На самом же деле там нет никакой «головы» у машины, но есть довольно детерминированные алгоритмы — единственно, что с триумфальным шествием нейронных сетей, сейчас и разработчики не очень могут понять, как именно внутри нейронной сети в реальной ситуации происходит выбор того или иного варианта, потому что нейронная сеть является «черным ящиком». Большинство алгоритмов ИИ представляют собой «чёрный ящик» по очень простой причине — там производится миллиарды операций, а проследить их логику пошагово разработчику попросту невозможно за разумное время. Существуют, конечно, какие-то методы для того, чтобы попытаться понять, как развивалось рассуждение нейронной сети, сделать ящик хоть немного серым, хоть чуть-чуть прозрачным, но в целом с этими алгоритмами сейчас обращаются действительно как с «черным ящиком». Подают задачу на вход, смотрят, что получилось на выходе, и подстраивают входные вводные либо сам алгоритм, подкручивают в нем ручки до тех пор, пока не получат нужного результата на выходе.

Никакого мышления там внутри, конечно, нет. Это просто некие сложные алгоритмы, у которых непредсказуемый результат может получаться просто в силу их высокой сложности. Но вы, когда в свою машину садитесь, порой тоже не знаете, почему она не заводится, просто потому, что сейчас техника — это в принципе очень сложная штука. Вообще, есть тенденция усложнения любого вида человеческой деятельности, эта сложность возрастает максимально в любой сфере.

Точно так же, например, разработчики поисковика «Яндекс» подчас не знают, почему он выдал именно такой результат поиска, а не какой-то другой. Происходит это потому, что при ранжировании результатов учитываются многие сотни первичных факторов и миллионы вторичных. Разработчики современного поисковика могут предполагать, каким будет результат, могут на это влиять, но объяснить, почему именно по вашему запросу выдались именно эти 10 верхних результатов поиска, или предсказать, что будет выдано, они, конечно, не могут. Это вполне нормальное явление для искусственного интеллекта. Никакого сознания там не зарождается, а уж тем более воли. Там могут быть непонятные эффекты и сбои, как и с любыми сложными техническими устройствами.

Ну и перехват управления беспилотным танком или истребителем боевыми хакерами со стороны противника тоже возможен. Это гораздо большая опасность, чем бунт машины.

— Вызывает вопросы и человекоподобная интеллектуальная робототехника. Китайцы утверждают, что в ближайшие годы появятся технологии, позволяющие сделать на заказ робота — это будет полный аналог человека, в том числе с элементами ИИ, который станет идеальной женой, мужем, ребенком, домашним питомцем — собакой, кошкой — и так далее. Это действительно так?

— Я, честно говоря, вообще не знаю выдающихся достижений китайцев в области искусственного интеллекта. Может, я отстал от жизни Поднебесной. Знаю, что китайцы вкладывают огромные деньги в ИИ, раз в 100–200 больше, чем у нас, и раза в 1,5 больше, чем США. Пишут много статей, подают огромное количество патентов. Рыскают по России, скупают коллективы разработчиков ИИ. Но вы слышали о каких-то китайских прорывах в ИИ? Я — нет. Может быть, эта их деятельность даст результаты, посмотрим. Ну да, камера телефона Huawei распознает лица, закат и траву. Но это, судя по всему, работают нейронные библиотеки Google, которые поисковая система выложила в open source.

Я знаю наши официальные структуры, которые в рамках технического сотрудничества поставляют российские космические технологии в Китай, сотрудники их говорят, что 80–90 процентов китайских достижений в освоении космоса — это просто адаптированные и развитые космические технологии СССР и России. Поэтому, я думаю, эти залихватские утверждения пока ни на чем не основаны. Просто обычное китайское стремление все изукрасить, сделать золотым и блестящим. Там же есть свои «ИИ-евангелисты», им ведь надо выбивать государственное финансирование ИИ, госпрограммы, гранты.

Человекоподобные роботы — пока маркетинговая лажа, потому что, как я уже сказал, даже просто поддержание текстового разговора с чат-ботом или виртуальным собеседником — еще не вполне решенная задача. Вы видите «говорящие колонки» — «Алису» или «Марусю» от Mail.ru — они работают в «железе», но, если вы с ними поговорите, вы увидите, что разговор поддерживать они не умеют. Команды наподобие обращения к поисковику или открытия карты они выполнить могут, голос распознается, но обработать смысл — конечно, нет.

Какая там еще человекоподобная робот-жена, что вы...

— Но известный американский фильм «Искусственный разум» 2001 года, вы, наверное, видели: невозможно распознать, кто перед тобой — человек или умная человекообразная машина. С тех пор на эту тему снято много фильмов, она волнует людей. Так что, возможно такое?

— Это обычная голливудская киношная ерунда. Я не думаю, что это вообще когда-нибудь будет сделано. Много серьезных кибернетиков, психологов и философов задумывались над тем, что такое разум и можно ли его воспроизвести внутри машины.

На самом деле мы даже не знаем определения и критериев наличия разума внутри человека. У нас вообще-то нет никаких средств, определить, обладает ли тот или иной человек разумом или нет. Мы это только предполагаем по сходству с нами, по поведению, по каким-то иным признакам, типа «сам я мыслю — значит, и другие мыслят». Никаких способов это проверить нет. Общепринятого, разумного, консистентного определения разума и интеллекта тоже не существует, хотя про это написаны многочисленные книги и статьи.

Причины вполне понятны: очень сложно исследовать инструмент при помощи этого же самого инструмента. Возникает такая дурная рекурсия, которая создает зашумление, напускает туман, поэтому очень сложно исследовать разум при помощи того же разума. Что такое разум, до сих пор неизвестно. Великий математик Тьюринг неспроста в свое время ввел свой критерий (или тест Тьюринга), который говорит, когда нужно признать, что создан сильный искусственный интеллект. А именно: если, общаясь по сети с ИИ-персонажем, определенное количество экспертов не могут достоверно установить, человек это или робот, ИИ признается сильным. То есть, если есть хорошая, идеальная имитация, будем считать, что там внутри есть интеллект, как бы это ни было сделано. Ведь определить, есть ли там внутри сознание «на самом деле» невозможно, нет определения. Нет критериев осознавания себя каким-то устройством.

Есть много работ, в частности Пенроуза, о том, что возникновение «настоящего» сознания в машине невозможно. Пенроуз пишет, что сознание человека, возможно, имеет квантовую природу и поэтому алгоритмические методы не могут к нему даже приблизиться.

Если смотреть с метафизической точки зрения, то возникновение где-то сознания не может быть случайностью или автоматическим процессом. Есть, конечно, среди разработчиков ИИ всякие мракобесные теории о том, что мы сейчас изучим с помощью МРТ и электродов, как работает человеческий мозг, повторим это на машинном уровне — и в машине возникнет сознание. Как-то само собой в машине возникнут чувства, разум, воля и душа... Но мы-то знаем обратные примеры: когда количество чувств и ума внутри человека уменьшается, освободившееся место занимают чуждые ментальные существа.

Поэтому скорее можно предположить, что если кто-то создаст хорошо приспособленную для существования в ней разума машину, очень похожую на мозг человека, годную для управления, то туда немедленно заселятся демоны, которые только этого и ждут. Да и с чего бы вдруг Бог сочтет себя обязанным зажечь в этой машине «искру Божью», вселить в нее разум и волю или, проще говоря, душу? Что, у этих атеистов, которые делают искусственный интеллект, с Ним есть такая договоренность? Думаю, что нет.

— На днях британская газета The Telegraph опубликовала статью под названием «Зачем Илон Маск хочет вставить вам в мозг микрочип», в которой прошлась по пресловутой чипизации и превращению в будущем людей в киборгов. Маск 28 августа представил прототип своего интерфейса «мозг – компьютер», который однажды можно будет внедрить в голову, сделав из людей киборгов, пишет автор статьи. То есть эти технологии уже реальность?

— Ну в реальности Маск демонстрировал дрель, которая просверлила череп свиньи. И всё. Это же Маск.

А вообще, людей, которые бы хотели, чтобы их кто-то извне контролировал, чтобы им что-нибудь вживили, или тех, кто просто злоупотребляющих психоактивными веществами, много. Есть люди, которые идут в секты, в политические движения, потому что хотят внешнего управления. Их тоже много и будет еще больше, если им будут обещать какие-то сверхспособности или еще что-то. Есть просто сумасшедшие или те, кому хочется своих 15 минут славы, и за это они готовы вживить себе все что угодно.

Чипирование людей для внешнего управления — конечно, мракобесие, это должно быть запрещено. Басни, которые Маск рассказывает, разумеется, абсолютно человеконенавистнические и бредовые, даже если у него ничего не получится. Например, о том, чтобы вставить больному чип, чтобы с его помощью лечить депрессию. Это значит, что, вместо того, чтобы давать человеку «Прозак», на котором пол-Америки сидит, просто подкрутить ручечку потенциометра до тех пор, пока уголки губ у пациента не поднимутся кверху? Удобно же? И дешевле!

Этого ничего на самом деле нет, потому что, как управлять человеком даже через электроды, подведенные напрямую к мозгу, никто не знает. Человек — очень сложное и до конца не изученное существо. Например, бывают случаи, когда человеку на войне снесло полчерепа вместе с большей частью мозга, и в этом случае оставшаяся часть мозга берет на себя практически все функции утраченной части и вполне успешно функционирует, хотя по теории разделения функций по зонам мозга этого быть не должно. Мозг человека устроен очень странно и сложно, он тесно связан с телом, и всех этих тонкостей мы не знаем.

А про конкретную басню про чипизацию стоило бы спросить авторов теорий заговора — зачем она нужна? Начнем с того, что чипизация сопряжена с техническими трудностями, а именно: как питать этот чип внутри организма — непонятно, как избежать перегрева (фактически сваривания) тканей организма из-за его мощных сигналов — непонятно. При этом что он сможет делать, чтобы не убить своего носителя? Скорее всего, простейшую идентификацию на расстоянии нескольких метров — примерно в рамках возможностей товарных радиометок RFID.

У каждого, кто боится этой фантастической чипизации, уже сейчас есть смартфон. Он работает на расстоянии нескольких километров, человек сам его питает электричеством и деньгами, очень нервничает, если смартфон разрядился, боится его где-то забыть. Этот смартфон знает про нас все, уже сейчас он нас подчиняет, следит за нами, жрет наше время, заставляет заниматься ерундой, зомбирует и управляет. Какие чипы еще нужны? Чего бояться, когда вы сами и уже сейчас носите в своем кармане средство управления вами? Все уже сделано.

«ЕСЛИ ЧЕРЕЗ 10–15 ЛЕТ У НАС НЕ БУДЕТ СУПЕРОРУЖИЯ — АВТОНОМНОГО, СВЕРХБЫСТРОГО, — ТО ОТ НАС НИЧЕГО НЕ ОСТАНЕТСЯ»

— Много говорится о двух путях поиска бессмертия. Один из них — это заморозка тела в криокамерах до лучших времен, пока изобретут способ это тело оживить, а второй — это уход личностной сущности в виртуальную реальность, как было показано в культовом фильме начала 90-х «Газонокосильщик». Такой уход возможен в принципе?

— Для начала давайте зададимся вопросом: а что, человеку правда нужно бессмертие? С моей точки зрения, все люди живут какое-то время, а потом попадают на Суд. Бессмертие — это попытка застрять здесь, не попасть на Суд, чтобы с тебя не спросили. Попытка уйти от суда. Застрять во времени. Это не очень хорошая идея. Это значит, что сознательно или бессознательно такой индивидуум, желающий себе бессмертия, хочет бесконечно долго хулиганить и гадить. Для чего еще нужно бессмертие? Для чего еще нужна бесконечная жизнь? Совершенно непонятно. Для бесконечного потребления? Если это бессмертие еще и доступно не всем, то это адский расизм и тоталитаризм, разделение людей на бессмертных и быдло, которое должно обеспечивать счастливую вечную жизнь первых и вымирать, которое не жалко.

Еще один интересный момент, связанный с уходом личности в виртуальную реальность. Великие фантасты 1950–1970-х когда-то уже описали телепортацию, то есть моментальные перемещения человека во времени и пространстве. Здесь зашел в портальчик, а на другой планете вышел из такого же портальчика. Понятно, что его не физически туда перенесли, а пересобрали на месте из новых атомов. По сути, получится, что этот зашедший здесь умер, а там родился другой. Куда делся умерший? Из чего следует, что если он сложен из тех же самых атомов, то это тот же самый человек? По сути, не из чего. А как установить, что это тот же самый человек? Что у него воспоминания те же самые? Но, наверное, тогда эта машина могла бы сделать, воспроизвести пять таких людей на разных планетах. Они что, все одинаковые будут? А где тогда он сам? Тут возникают такие логические дыры, что это, скорее всего, невозможно. Или это разрешение убивать людей, а потом «оживлять» мертвых. То есть фактическое производство зомби, неотличимых от людей.

С переносом человека в компьютер такая же история. Что значит, «он будет там жить»? Кто «он»? С чего взяли, что личность туда будет перенесена, даже если «набор битов» как бы совпадает? Это бредовая идея, и берется она из нелепого допущения о том, что мозг — это тоже компьютер. А это глупость такая же, как представление XVIII–XIX веков, что мозг — это гидравлическая машина с краниками и трубочками, перекачивающими черную и желтую желчь, флегму и тому подобное.

Мозг — это не компьютер. Там ничего общего с компьютером нет. Нет постоянной и оперативной памяти, нет процессора, мозг не «обрабатывает информацию». Компьютер не похож на мозг, и наоборот — как нет ничего общего у автомобиля с лошадью. Мы не знаем, что такое человеческая личность и где она сидит. Физически ее нет, когда препарируют трупы, но она в людях есть. Она что, исчезает, как свет в холодильнике, если дверь закрыть? А потому что, собственно, «переносить»?

На мой взгляд, это все фантазии, басни для людей, которые об этом глубоко не задумываются. Ну и, естественно, исключительно для атеистов.

— Очень много пишут о том, что умные гаджеты повсеместно и круглые сутки шпионят за гражданами, а IT-компании, собирающие и имеющие в своем распоряжении массу всевозможной информации о людях, становятся все более влиятельными, что в будущем может быть опасно и для госструктур, и для всех нас. Это так?

— Это не пустые страхи, а наша сегодняшняя реальность. Соответствующие данные уже собираются, причем с опережением законодательства. Законодательство еще не успело охватить и описать эти проблемы, а данные уже собираются. Есть уже гигантский рынок этих данных. Они воруются и перепродаются через пятые руки. В основном они используются для втюхивания, чтобы создать максимально неотразимую рекламу, чтобы вы обязательно купили, при этом даже сами не поняли почему.

Данные собирают все, кто может до них дотянуться. Любое приложение на смартфоне имеет доступ к огромному массиву данных. К примеру, любое приложение на вашем смартфоне имеет доступ к вашему bluetooth-окружению. Таким образом, можно узнать, какой у вас автомобиль, другие устройства. Все смартфоны знают, где вы находитесь, даже если вы отключили GPS или ГЛОНАСС. Почему? Потому что им видно ваше Wi-Fi-окружение, какие вокруг вас Wi-Fi-сети. Дело в том, что таких названий домашних сетей, которые напридумывали ваши соседи по дому, больше нигде нет. Это уникальный отпечаток вашего окружения.

Таких способов собирать эти сигнатуры и отпечатки очень много. Поэтому крупнейшие компании, которые этим занимаются во всем мире, — это «Фейсбук» и Google, у нас еще «ВКонтакте», «Яндекс» и Mail.ru, мобильные операторы, Сбербанк. Они знают о нас очень много. Почему? Потому что у них есть очень широкая линейка сервисов, и в каждом сервисе собираются свои данные, которые потом объединяются. Поисковик знает, чем вы интересуетесь, навигатор — где вы ездите, банковское приложение — что вы покупаете, и так далее. Все это позволяет делать так называемый кросс-канальный анализ. Компании точно знают, что вот это ваш смартфон, а это ваш ноутбук и они связаны. Более того, знают, какой смартфон у вашей жены, потому что он находится рядом с вами по ночам, и так далее. Ваша жена что-то поискала, а рекламу покажут вам, чтобы убедить еще и вас, что вам нужен этот унитаз, посудомойка, или еще что-то.

То есть эта слежка уже сейчас тотальная. Не вся она коммерческая. Большинство этих компаний-гигантов, которые это всё собирают, американские. Они работают в американской юрисдикции, там есть так называемый «Акт о свободе», который требует, чтобы все эти данные предоставлялись государству, они их ему и сдают. Поэтому у американской разведки и контрразведки все есть. Как они все данные используют — это другой вопрос. Не торгуют, но делают нечто другое (у нас этих данных нет, нам «Фейсбук» и Google эти данные не отдают).

То есть это будущее уже наступило, оно уже здесь, и пока нет никаких законов, которые бы защищали нашу цифровую идентичность, нашу цифровую приватность, кроме слабого и почти не применяемого закона о персональных данных (номер 152-ФЗ).

— Между тем в России все чаще появляются сообщения об утечке в свободный доступ (или чьем-то «сливе») персональных данных клиентов самых разных организаций и граждан, а также росте киберпреступности и усложнении мошеннических схем в цифровом пространстве. Как защититься от мошенников, похищающих через цифровые устройства и технологии все — от личных данных граждан до денег?

— С моей точки зрения, вся эта слежка, о которой мы говорили выше, гораздо более опасна в государственных руках и в руках крупных компаний-платформ, нежели в руках криминала. Криминал, конечно, тоже старается всем этим воспользоваться, но гораздо опаснее те, кто эти данные получает либо по долгу службы, либо потому, что мы сами эти данные на этих платформах оставляем и не глядя ставим галочку при регистрации, позволяя делать с собой все что угодно.

Конечно, происходят утечки данных. Они всегда будут. Утечки станут нарастать, потому что увеличивается объем собираемых и хранимых данных, а компетенции защитников данных растут медленнее. Криминал, безусловно, будет всем этим пользоваться и уже пользуется. Например, многие из частых звонков от имени банков делают заключенные прямо из колоний. Об этих вещах надо знать всем, нужна некая базовая цифровая гигиена. Гражданам нужно все это доводить и объяснять, что не следует отвечать на незнакомые номера, не щелкать на ссылки в СМС, пришедших с незнакомых номеров, и так далее.

Я сейчас дописываю книгу под названием «Цифровая гигиена», где мы с коллективом авторов пытаемся научить родителей и воспитателей базовым принципам цифровой гигиены — с тем, чтобы они передавали рекомендации детям и подросткам. В новый курс по ОБЖ для средних школ также вставлен кусок про цифровую гигиену, который писали наши специалисты. Но, к сожалению, среди наших граждан, которых втягивает в цифровое «торнадо», большинство тех, кто к личной борьбе с криминалом не готовы и никогда не будут готовы, несмотря на весь цифровой ликбез. В частности, по очень простой причине — средний человек склонен доверять людям, а мошенник этим всегда пользуется. Поэтому считать, что спасение утопающих — дело рук самих утопающих, мол, учитесь, сами за собой следите и так далее, неправильно. Среда должна быть базово не токсичной, как водопровод в квартире. Людей должно защитить государство. Вылавливать этих всех мошенников, создавать защищенные коммуникации и прочее должно государство. Это изначально неравная борьба, поэтому сверху должен прийти регулятор, который защитит граждан. И в части ограничения слежки со стороны платформ — тоже.

Мы не можем остановить развитие и совершенствование искусственного интеллекта, потому что ИИ — это в первую очередь война, боевые технологии, хотя об этом мало говорят публично. Если через 10–15 лет у нас не будет супероружия — автономного, сверхбыстрого, — то от нас ничего не останется. Американцы и иже с ними нанесут первый удар. Это самое хищное государство на планете. Они разрешили себе первый ядерный удар в военной доктрине, у них нет никаких препятствий для нападения на другие страны — они уже напали примерно на 100 стран после 1945 года. В отличие от нас, у них военная стратегия не оборонная, а всегда нападающая.

И мы являемся главной мишенью, а потом уже Китай. Мы в их военной стратегии и в киберстратегии названы противником номер один, мы им очень сильно мешаем на планете. Но до сих пор их от прямого нападения на Россию удерживало исключительно наше ядерное оружие, а с развитием ИИ место ядерных сил постепенно займет сверхточное сверхбыстрое автономное ИИ-оружие. По крайней мере, на него сейчас делается основная ставка в военной сфере.

А с ИИ ситуация такая, что если ты все время не разрабатываешь эти технологии, то отстанешь. Мы сейчас во многих военных областях впереди (РЭБ, гиперзвук), и американцы очень нервничают по этому поводу. Но в искусственном интеллекте нам тоже нужно не опоздать. Сейчас американцы и китайцы борются между собой, думая, что кто-то из них будет лидером. Они вкладывают гигантские деньги, в сто раз большие, чем у нас. Нам вкладываться тоже все равно придется. Нам нужно дать асимметричный ответ все равно, с этим ничего не сделаешь, потому что, как только они поймут, что уже могут нас уничтожить и им за это ничего не будет, они кнопку нажмут. У них вообще никаких барьеров нет, они постоянно поступают так с другими, более слабыми странами.

Поэтому нам надо выпускать больше инженеров и математиков, больше вкладывать денег в ИИ, создавать технологические площадки, такие как Иннополис, «Сколково», «Эра» и им подобные, остановить утечку мозгов, дать разработчикам ИИ большие проекты и большие перспективы.

— Кстати, с учетом повсеместной цифровизации и внедрения ИИ какие профессии будут наиболее востребованы в ближайшей и среднесрочной перспективе? Нужно ли учить программированию, бизнесу?

— Математики, программисты, инженеры по данным, специалисты по цифровым технологиям, прикладные лингвисты — на мой взгляд, это очень перспективные профессии. Что касается остальных, за всех, конечно, говорить не могу, но, мне кажется, юристы, экономисты и маркетинговые специалисты будут менее востребованными по сравнению с теми ожиданиями, которые у них были 15–20 лет назад, когда все бросились в юристы и экономисты. Тут уже есть перепроизводство.

На мой взгляд, такая модная «профессия», как бизнесмен (которой берутся учить многие), тоже не будет востребована, потому что бизнесменом может быть один из многих десятков людей, а остальным это на самом деле не нужно, тяжело, нервно, не под силу. Даже если они этого хотят, если у них есть запал и кураж, они могут быть к этому не способны. Это такая довольно неприятная работа с повышенным риском и ранней сединой, язвой желудка и так далее.

Из 10 новых предприятий в первые 3–5 лет 7–8 банкротятся и закрываются, а основатели идут обратно в наемники. То есть тут нужно иметь склонность, а «учить бизнесу» — дело довольно бессмысленное. Сначала надо отобрать пригодных, а потом уже учить во взрослом возрасте, с опытом предпринимательства.

Сейчас набирает обороты новое движение — дескать, давайте детей учить бизнесу прямо со школы, мы будем делать с ними проекты и стартапы! Это чушь, конечно. Из 100 человек в этой школе бизнесом реально 1–2, максимум 5 человек. Все не могут заниматься бизнесом ни по способностям, ни по ситуации в экономике. Если все будут бизнесменами, кто тогда будет учить, лечить, строить, развивать науку и искусство? Спрашивается, зачем «учить бизнесу» остальные 98 процентов? Чтобы потом они эффективно и удобно для налоговой изображали из себя индивидуального предпринимателя, работающего за харчи на огромного инфопосредника типа Uber или «Яндекса»? Ага.

Вот математике надо учить, финансовой грамотности, цифровой гигиене. Искусствам и спорту.

Конечно, не у всех есть способности и желание быть инженерами или программистами. Что делать человеку, например, с талантом к рисованию? Ну может учиться в цифровом формате — аватаров делать, персонажей для игр, дома проектировать, вселенные какие-то рисовать, в общем, идти в ногу со временем. Советы тут давать трудно — это ведь касается судеб, которые каждый выбирает по себе и своим талантам.

Ашманов Игорь Станиславович — предприниматель, инвестор, президент компаний АО «Ашманов и партнеры» и АО «Крибрум», а также руководитель нескольких десятков профильных IT-проектов. Один из основателей российской IT-индустрии и один из самых авторитетных экспертов в области интернет-технологий, искусственного интеллекта и больших данных, поисковых систем.

Родился в 1962 году.

В 1983 году окончил механико-математический факультет Московского государственного университета (кафедра высшей алгебры), кандидат технических наук (1995, тема ИИ и прикладной лингвистики).

С 1987 по 1995 год руководил развитием первой в России проверки русского правописания «ОРФО», в 1994 году включенного в состав лицензированной компанией Microsoft для русской версии продукта компании Microsoft Office. Словарь ОРФО до сих пор используется для проверки орфографии текстов десятками миллионов россиян, работающих в Word, PowerPoint, Outlook.

В 1999–2001 годах занимал пост исполнительного директора интернет-холдинга «Рамблер». Под его руководством была разработана и запущена новая поисковая машина Rambler 2.0, выпущено более двух десятков новых сервисов портала «Рамблер», включая новую версию рейтинга-счетчика Rambler’s Top100.

В 2001 году Ашманов открыл собственную IT-компанию «Ашманов и партнеры», создавшую рынок поискового маркетинга в России и ставшую одним из его основных игроков.

В 2002–2003 годах под руководством Ашманова был разработан первый в стране промышленный фильтр спама «Спамтест», установленный на Mail.ru, в «Билайне» и МТС, десятках провайдеров российского интернета, осуществляя фильтрацию почти 50% всей электронной почты в РФ. В 2005 году спам-фильтр «Спамтест» был приобретен лабораторией Касперского и переименован в «Антиспам Касперского».

В 2010 году основал АО «Крибрум». Сервис «Крибрум» выполняет мониторинг и анализ всех социальных медиа и СМИ рунета, активно используется крупнейшими коммерческими организациями, банками, авиакомпаниями, операторами сотовой связи и силовыми ведомствами РФ. «Крибрум» во взаимодействии с администрацией президента РФ выполняет мониторинг и анализ «деструктивных движений российской молодежи в социальном пространстве российского интернета», для поставки данных проекту «ЦИМС» (центру исследования молодежной среды). Технологии компании «Крибрум» по анализу мировых социальных сетей экспортируются на зарубежный рынок на английском, китайском и арабском языках.

Ашманов является автором делового бестселлера «Оптимизация и продвижение в поисковых системах» (более 200 тыс. экземпляров) и книги «Жизнь внутри пузыря», более 100 научных статей и публикаций в СМИ.

Является членом совета по законодательному обеспечению развития цифровой экономики при председателе Госдумы, приглашенным экспертом Совета Федерации, экспертом Общественной палаты РФ по вопросам информационной безопасности, руководителем подгруппы «Права личности в цифровой экономике» по направлению «Информационная безопасность» национального проекта «Цифровая экономика Российской Федерации».



URAS
отправлено 11.11.20 20:49 | ответить | цитировать # 2


Это не антиутопия, а обычный капитализм, его логическое развитие. Привет капиталисту Ашманову.


dead_Mazay
отправлено 11.11.20 22:08 | ответить | цитировать # 3


Кому: URAS, #2

> Это не антиутопия, а обычный капитализм, его логическое развитие. Привет капиталисту Ашманову.

Соглашусь. С развитием капитализма возрастает доля, которую пролетарий - разумеется, добровольно, с песней и улыбкой на устах! - заносит капиталисту. Так что да, эксплуатация все усиливается. А то, о чем говорит Ашманов - просто обертка от конфетки. В данном случае - технологии, могла бы быть религиозная обертка, к примеру.
[отключает интернет, утюг и стиральную машину]


Barbus
отправлено 11.11.20 22:10 | ответить | цитировать # 4


Вы всё не понимаете! Это - ДРУГОЕ!


shurikfromPerm
отправлено 11.11.20 22:14 | ответить | цитировать # 5


Отличное интервью!


Barbus
отправлено 11.11.20 22:24 | ответить | цитировать # 6


Кому: Цитата, #1

> Если все будут бизнесменами, кто тогда будет учить, лечить, строить, развивать науку и искусство? Спрашивается, зачем «учить бизнесу» остальные 98 процентов?

> Вот математике надо учить, финансовой грамотности, цифровой гигиене. Искусствам и спорту.

Хочется попросить Игоря Станиславовича объяснить входит ли в понятие "финансовая грамотность" умение грамотно вести дела, то биш "бизнес"? Не окажется ли, что "бизнес" - это что-то нехорошее и что по Игорю Станиславовичу, 2% будут и должны "стричь" 98% искусствоведов, спортсменов и т. п., ну чтобы "экосистему" не разрушать?


dr.Scre
отправлено 11.11.20 23:24 | ответить | цитировать # 7


Не так страшна машина, которая пройдёт тест Тьюринга, как та, которая его сознательно не пройдёт.


Steel Rat
отправлено 11.11.20 23:33 | ответить | цитировать # 8


Кому: dr.Scre, #7

От это поворот!


McCedonsky
отправлено 11.11.20 23:51 | ответить | цитировать # 9


Очепятку исправьте («расскывали»).


Goblin
отправлено 12.11.20 00:28 | ответить | цитировать # 10


Кому: McCedonsky, #9

ай


MrGrum
отправлено 12.11.20 00:34 | ответить | цитировать # 11


>> Вообще, программой искусственного интеллекта можно назвать любую компьютерную программу, которая автоматически анализирует какие-то данные

Редко когда можно встретить настолько глубокое непонимание вопроса.
Когда говорят про ии, подразумеваю т факторный анализ, это особая фигня, похожая на то, как устроены наши мозги. Отсюда и И.

Ну и тут как с ножом - штука полезная, но использовать можно весьма по разному.


Goblin
отправлено 12.11.20 00:34 | ответить | цитировать # 12


Кому: MrGrum, #11

> Редко когда можно встретить настолько глубокое непонимание вопроса.

попался, Ашманов!!!


GronD
отправлено 12.11.20 01:33 | ответить | цитировать # 13


Волею судеб, вгрузился тут в тему ИИ для решения одной практической задачки, а именно задачи сортировки живой рыбы.

По ходу погружения, отмечал для себя всяческие аспекты текущего состояния дел в направлении развития ИИ, хмыкал удивлённо/восхищённо/возмущённо.

В данном интервью Ашманов очень чётко литературно излагает мои охи ахи и вздохи.

Снимаю шляпу.


MrGrum
отправлено 12.11.20 01:33 | ответить | цитировать # 14


Кому: Goblin, #12

Где я прокололся?

Парашют торчит?! о:О


mcwees
отправлено 12.11.20 01:33 | ответить | цитировать # 15


Как по мне - любой разговор о несуществующем предмете - шамановщина.
Красивое буквосочетание, но нигде и никогда не встречается хоть какого-нибудь осмысленного определение что такое из себя этот несуществующий ИИ представляет. А если про ИИ вдруг г-н Ашманов начинает говорить - выглядит еще страннее. Может имеет смысл задуматься о том, что как и Илон-наше-всё, г-н Ашманов занимается рубкой гешефта?

Я полагаю, что ИИ="малолетний недоумок". Последний хоть существует в реальном мире, в отличии от ИИ.

Осмелюсь предложить контингенту ознакомиться с древним, но очень красивым кино - "Игра в имитацию", а так же заметить, что пока не было случаев, чтобы машина выиграла. Ну, кроме киношных побед, вестимо.


MrGrum
отправлено 12.11.20 02:03 | ответить | цитировать # 16


Кому: mcwees, #15

>> что такое из себя этот несуществующий ИИ представляет

Факторный анализ позволяет дать ответ на вопрос, на который натаскана нейросеть.
Например, собака ли на картинке, что надо сделать, чтобы не попасть в аварию и т.п.

Мозг работает точно также, отсюда и тот факт, что чем больше ты тренируешь мозг, тем больше решений задач к тебе приходит без выстраивания логических цепочек.
Люди говорят «меня озарило» - это вот и есть результат работы натасканной на решение определенных задач нейросети.

Так вот, простыми словами, более понятно?


codewarrior
отправлено 12.11.20 02:35 | ответить | цитировать # 17


На тему так называемого ИИ есть занимательный доклад профессора Савельева:

"Сергей Савельев. Иллюзии моделирования мозга"
https://youtu.be/hl7BfXBr6KM


Тень отца Гамлета
отправлено 12.11.20 03:31 | ответить | цитировать # 18


Кому: MrGrum, #16

> Мозг работает точно также

А уже кто-то детально и доподлинно знает, как работает мозг?


URAS
отправлено 12.11.20 04:02 | ответить | цитировать # 19


Искусственный интеллект, в смысле искусственное сознание, как у человека машине недоступно. Наше сознание развивалось миллионы лет под давлением внешних воздействий, противоречий, и их разрешения. В итоге лишь сознательный труд сделал нас людьми. Машина работает по алгоритмам и по приказу, по тем алгоритмам, которые зашил в нее программист Вася, условный. Все эти сказки про Скайнет, не более чем сказки, по факту компьютер с ИИ и молоток - это два интструмента, но доя разных задач.


hgh
отправлено 12.11.20 04:29 | ответить | цитировать # 20


Кому: Цитата, #1

> Беспилотные поезда уже есть, лично на них уже много раз ездил. В Нью-Йорке, Мюнхене и в Шанхае между терминалами аэропорта ездят поезда без машиниста.

В Сингапуре уже лет двадцать работают линии LRT (Light Rail Transport) - полностью автоматические монорельсные вагончики. И все метро, построенное после 2004-го - полный автомат.


hgh
отправлено 12.11.20 04:31 | ответить | цитировать # 21


Как говорил Михаил Донской, руководивший созданием программы "Каисса", первого чемпиона мира по шахматам среди компьютерных программ, в задаче обучения компьютера шахматам на самом деле две задачи:

- научить компьютер играть лучше человека (с этой задачей справились)

- научить компьютер играть как человек. А вот эта задача - пока никак не дается.


Михайло_Васильевич
отправлено 12.11.20 08:05 | ответить | цитировать # 22


> Все равно кто-то должен товары на эти таблетки грузить, а этих и так уже социально достаточно ущемленных и подавленных людей, в основном мексиканцев, поставили под контроль ИИ

Под разговоры о том, что "всех рабочих скоро (на днях!) заменят роботы", происходит массовый завоз гастарбайтеров.
Насколько отправным от производства и вообще от реальности креаклом надо быть, чтобы долдонить про ИИ "который всех заменит".
Хотя капиталистов ИИ уже сейчас может заменить, это да.


mcwees
отправлено 12.11.20 10:24 | ответить | цитировать # 23


Кому: MrGrum, #16

Нет.

Вы здесь говорите об увеличении таблицы возможных вариантов. Не более чем.

Расскажите поподробнее, как работает мой мозг, очень интересно. Но, пожалуйста, с обоснованиями, чуть более серьезными, чем "работает точно так же": например формула-1 и Белаз - работают более одинаково, нежели обезьяна и человек.


MrGrum
отправлено 12.11.20 10:24 | ответить | цитировать # 24


Кому: codewarrior, #17

И что там проф?

Не согласен, как всегда? :)


Gorgut
отправлено 12.11.20 10:24 | ответить | цитировать # 25


Я сам по работе занимаюсь в том числе разработкой и внедрением ИИ (на уровне чуть сложнее чем стянуть код на Tensorflow используя дата-сет гугла, но по-прежнему в прикладных задачах). Мне кажется часть путаницы возникает из-за самого термина ИИ. Все сразу ждут "сильный ИИ" или что-то с мышлением подобному человеческому и т.п. Что компьютер вдруг начнет что-то "понимать" или вдруг объяснять по шагам свою логику. Мне куда больше нравится термин "алгоритм машинного обучения" - мы учим черный ящик по данным на входе А предсказывать данные на выходе Б. Итеративный поиск минимума функции по производной - это элемент системы ИИ. При этом часто параметры черного ящика не имеют физического смысла. Выявление закономерностей это уже data science (области часто смешивают, но это не одно и то же). Проекты машинного обучения необязательно сопровождаются попиванием смузи, можно например сортировать строительный мусор на переработке. При этом внедрённая система да, заменит оператора человека и нет она не будет знать или понимать что такое бетон и что такое листва, но будет натренирована что картинка с такими-то весами матрицы параметров отправляется в зону 1, а вот с такими в зону 2. Обычная практика у заказчика систем ИИ - точность не хуже оператора-человека. 100% никто не обещает. И да после того как система натренирована оператор уже не очень нужен. Но ставить метки на дата-сетах чаще всего кто-то должен руками.


mcwees
отправлено 12.11.20 10:24 | ответить | цитировать # 26


Кому: codewarrior, #17

Вот я именно о том же - нет никакого ИИ, есть "big data" и прочие "большие таблицы" и ещё большие передергивания, а никакого ИИ - как не было так и нет. Книжку про это я читал еще в 1990-м, 30 лет прошло, но Савельев и ныне там. И никто не привел примеров, кроме "big data", и заметьте - ни одного упоминания, как оно всё работает, потому как "big toboo about big fake".

Есть даже языки программирования, типа Prolog, но кто о них знает из знатоков ИИ?


mcwees
отправлено 12.11.20 10:25 | ответить | цитировать # 27


Кому: Тень отца Гамлета, #18

Именно!
Но... О чём вы!? Каждый ИИнтелектуал знает, разве нет?


allustin
отправлено 12.11.20 10:25 | ответить | цитировать # 28


Кому: URAS, #2

Я бы не называл Игоря Станиславовича таким уж прям типичным капиталистом. Это примерно тоже самое, что называть капиталистом например Олега Сергеевича Бартунова - https://sbis.ru/contragents/7729445882/161501001 - с одной стороны это верно, с другой стороны важно следить за действиями - во что вкладывается данный капиталист. Некоторые капиталисты скажем исповедуют подход "наличия обязательной социальной миссии предприятия"

Интервью с гуманитарной точки зрения отличное на мой взгляд - сейчас цифровизацией экономики у нас управляют "финансовые менеджеры" без технического образования со всеми вытекающими. Подобные критические интервью возможно (только возможно) немного поубавят пыл цифровизаторов и трансформаторов.

Единственное что я бы заметил - это Сбер.Всё и Яндекс.Всё - учитывая что делает Сбер со своей платформой и дочерними обществами типа Сбер.Логистика, Сбер.Образование не удивлюсь если останется только один <Some>.Всё


P.S. В одном он прав - "автоматические алгоритмы" - это уже ширпотреб. Уровень - курсовой проект - 4 курс профильного ВУЗа и куча продуктов в формате "скачай на GitHub". И никакая не прорывная технология года этак с 94-97


allustin
отправлено 12.11.20 10:25 | ответить | цитировать # 29


Кому: Тень отца Гамлета, #18

Наука даже такая есть - нейрофизиология. Там химия+физика. Как работает мозг и нервная система давно исследовано и вы будете наверное удивлены - но психолагам в МГУ эту информацию выдают вроде как на первом или на втором курсе.

Это если мы говорим в формате "Как работает мозг". В том же Яндексе при проектировании интерфейсов "Человек/Машина" применяются критические методы как раз из нейрофизиологии.

По правде так несколько наук с приставкой нейро которые изучают работу мозга и они "технически" знают как работает мозг.

Там же проблема не в том, чтобы понять как он работает - нерешенная задача - это воспроизвести подобное поведение. То есть сделать искусственный аналог мозга. Вот это как раз нерешенная задача если я правильно все помню... Хотя.


allustin
отправлено 12.11.20 10:25 | ответить | цитировать # 30


Кому: MrGrum, #14

> Где я прокололся?

Ашманов явно давал интервью для гуманитариев, а не для технарей и он прав - искусственным интеллектом можно назвать любую программку которые делает вывода на основе входящих данных.
потому что с точки зрения "инженерии программного обеспечения" - искусственный (созданный человеком) алгоритм - является интеллектуальным.
Вы будете смеяться - но какой -нибудь чат-бот сейчас имитирует и волю и понимание и другие свойства интеллекта. Но если вы посмотрите исходный код данных чат-ботов в первый раз - вы будете в шоке, потому как там просто алгоритмы обработки данных - от простого ЕслиТоТогдаИначе до ПрименитьПрограмнныйНейрон


IRedWoLF
отправлено 12.11.20 10:25 | ответить | цитировать # 31


Кому: Михайло_Васильевич, #22

Заменит со временем, есть, тестовые фабрики без людей. Но не прям прям сейчас. На данный момент, проще заменять мелких чиновников, нотариусов и других офисных работы, перечень заданий которых четко определяется в ограниченные рамки. Условного чиновника можно и без машинного обучения прописать. Надо заполнить бумажку, ты вбиваешь имя фамилию и готово. Так же будет и с врачами терапевтами потом, поставят вместо них, окно автомат, с приборами для измерения и желания фотографий, пройдет по списку болезней и скажет, с вероятностью такой эта болезнь, с другой другая. На счёт амазона, люди на контракте, им платят за часы работы а не безделья, в англосаксонской практике рабочей, вообще принято следить. Поэтому рабочие их, делают все но очень медленно и не торопясь, но от работы не отвлекаются.


MrGrum
отправлено 12.11.20 10:25 | ответить | цитировать # 32


Кому: URAS, #19

>> Машина работает по алгоритмам и по приказу, по тем алгоритмам, которые зашил в нее программист

Редко встретишь настолько полное непонимание вопроса :)

Нет, факторный анализ не работает по алгоритмам, т.е. у нейросети алгоритмов нет. Только способ подачи информации.


SergeyB
отправлено 12.11.20 10:25 | ответить | цитировать # 33


Кому: hgh, #21

> Как говорил Михаил Донской, руководивший созданием программы "Каисса"

С чемпионства этой программы прошло много времени, многое изменилось

Например, в обзорах партий AlphaZero опытные шахматисты отмечают, что у неё очень человеческое поведение (посмотрите того же МГ Сергея Шипова)


MrGrum
отправлено 12.11.20 10:25 | ответить | цитировать # 34


Кому: hgh, #21

>> научить компьютер играть как человек

Определение этого процесса есть?

Что значит, играть, как человек?

З.Ы. Задача с шахматами решалась до нейросетей и решение было найдено в принципах эволюции и алгоритме оценки качества позиции.
Т.е. если по русски, то с помощью генерации случайного изменения (хода) с закреплением самого приспособленного (лучшего) результата из множества случайных.
Хорошесть оценивается алгоритмом оценки позиции в баллах, она тут ключевая для реализации.


Basilevs
отправлено 12.11.20 10:25 | ответить | цитировать # 35


Инфоцигане - это пять! Отличный термин, очень точный. Причём новое спасительное средство (ИИ, облачные технологии, XML, Big Data, Case-технологии, блокчейн, ...) они рекламируют так же вдохновенно, как и безграмотно.

Про проблемы ИИ и чего он там себе напридумывает - почему-то больше всего запомнился именно Шекли, а конкретно его "Страж-Птица". Вот очень правдоподобно написано.

Работа по удалёнке - вообще-то, её и до карантина было полно. Просто сейчас в этот режим втянули больше народу. А так - всякие колл-центры да айтишники и раньше очень много из дома работали. С протягиванием оптики в каждую деревню это становится всё более и более доступным. И позволяет набирать людей для работы не только в крупных городах, но и в мелких поселениях у чёрта на рогах. "Смычка города и деревни".

Для нормальной работы на удалёнке нужно просто больше места - отдельный кабинет, сегодня далеко не все его могут себе позволить. В остальном - никаких проблем. И начальник 24/7 у вас торчать не будет, потому что у вас рабочий день с 9 до 6 (условно), и в остальное время Тимс (или что вы там используете) просто выключен. А если рабочий день по факту ненормированный - то он и до того был не нормированный. Но засидеться до полуночи на работе дома - всё ж таки куда приятнее, чем в офисе.

А вот про удалённое обучение - не соглашусь. По опыту младшего - отличная штука, но для старших классов, для 7-11 где-то. Да, оно менее эффективно, чем очное. Но не на порядок и даже не в разы. Хорошая камера, виртуальная доска, MS Office Lens для отсылки только что написанной контрольной - и всё живёт-работает.

Младшие классы - да, к удалёнке непригодны, там дети ещё не способны усиживать столько времени перед экраном. Способность к концентрации внимания ещё недостаточная, как говорит одна знакомая врач "лобные доли ещё не созрели". Им - только очное обучение годится.


Tovarisch-777
отправлено 12.11.20 10:25 | ответить | цитировать # 36


Живём как в сказке - чем дальше, тем страшнее.

Единственно, хочу заметить, что вся роботизация и ИИ-ция преследует при капитализме только одну цель - максимизация прибыли. Но, когда вся эта "красота" достигнет максимума, вдруг выяснится, что прибыль капиталиста станет равна нулю, ибо некому будет оплачивать и потреблять данные услуги


Прапор
отправлено 12.11.20 10:45 | ответить | цитировать # 37


Да он коммуняка, этот ваш Ашманов!


MrGrum
отправлено 12.11.20 10:57 | ответить | цитировать # 38


Кому: Gorgut, #25

>> Выявление закономерностей это уже data science

Так выделить факторы реально почти никогда и не удается.

Т.е. в основном только основной режим по принятию решений сетью на основе обучения.


Thunderbringer
отправлено 12.11.20 11:48 | ответить | цитировать # 39


Кому: Тень отца Гамлета, #18

> А уже кто-то детально и доподлинно знает, как работает мозг?

Никто не знает. Знания на уровне - вот нейрон, он эдакий операционный усилитель в сочетании с несколькими логическими элементами в одном флаконе, что они образуют нейросеть. Этот отдел мозга отвечает вот за это. Почему? А потому, что если вот здесь что-то не так - картинка пропадает, вот там - звук, а вот тут - человек думая осмысленную вещь в виде речи выдает тарабарщину. В общем - большой черный ящик, в который немного потыкали мультиметром и поняли где вход, где выход и частично - что он делает. А вот как - почти не знают. Никто до сих пор не знает где находится "код", передается ли информация от матери к эмбриону в утробе, как работает память, почему человек может анализировать окружающую обстановку занимаясь параллельно тремя разными делами лучше, чем это мог бы сделать суперкомпьютер, собранный из всех машин из Top500 в один кластер. При очень медленной скорости распространения сигнала в нервной системе. Никто не говорит, что нельзя создать робота, который будет общаться на нормальном человеческом языке и выдавать осмысленные ответы. Просто это всё равно будет продвинутая экспертная система, но не аналог человеческого (да хоть собачьего) интеллекта.


IRedWoLF
отправлено 12.11.20 12:00 | ответить | цитировать # 40


Кому: Thunderbringer, #39

>Никто не знает. Знания на уровне - вот нейрон, он эдакий операционный усилитель в сочетании с несколькими логическими элементами в одном флаконе, что они образуют нейросеть.

Статья была научная пару лет назад, что в мозгу помимо электросигналов обнаружили световые сигналы, волноводы. Что координально меняет представление как о мозге человека, так и о его способностях. Так что помимо дискретных логических элементов, могут быть ещё квантовые эффекты с волновыми функциями и вероятностями.


chum
отправлено 12.11.20 12:02 | ответить | цитировать # 41


Проблема не только в ИИ, но и в безудержной "цифроизации" всего и вся. Все эти электронные ПТС и прочее. Все это может и нужно, но делается кое как. А расплачивается за ошибки "системы" обычный человек. Будь то ошибочно выписанные штрафы, или счета за чужой телефонный номер. Все это побороть зачастую очень непросто.

Простой пример:

Раньше я заходил в автобус, бросал 5 копеек и отрывал билет. Если ко мне подходил контролер, я показывал ему билет, и все довольны. Теперь я захожу в автобус, прикладываю проездной к валидатору и он мигает мне "зеленым глазом". Если потом ко мне подходит контролер, и его "машинка" говорит ему, что я проезд "не оплатил". То доказать ему что либо нет практически никакой возможности.

В общем, я против "электронного документооборота". Хотя, почти 30 лет уже в этом бизнесе. И даже работал в тех же конторах, что и Ашманов. Только в разное с ним время :)


TotalWarCat
отправлено 12.11.20 12:37 | ответить | цитировать # 42


Кому: Thunderbringer, #39

ну не так всё плохо со знаниями о мозге как ты описал. тот же Савельев довольно подробно описывает и как работает память и как она зародилась и эволюционировала. и про образование мыслей как творческих решений он тоже рассказывает. про электрохимический сигнал, про детермирацию функций этого сигнала, про усиление производительности в разных задачах специальными полями и подполями мозга, а так же про замещение этих функций при повреждениях. очень очень много чего у него есть. в книгах довольно подробно. в роликах гораздо меньше.


Doom
отправлено 12.11.20 13:46 | ответить | цитировать # 43


Кому: dead_Mazay, #3

> В данном случае - технологии, могла бы быть религиозная обертка, к примеру.

Разрешите согласиться, технологии не суть.

[поспешным пинком отправляет под кровать книжку "Нажмите "Ввод""]


Kop9IBka
отправлено 12.11.20 14:21 | ответить | цитировать # 44


ИИ это инструмент. Будучи отданным в руки угнетателям из него сделали инструмент более эффективного угнетения.
Рассказы о том, как он облегчит жизнь простым трудягам так и останутся сказками. Рабочему классу достается камера с ИИ для фоточек в инсту и прочая дурь, капиталистам сверхприбыть от использования роботов и ИИ в производстве.


McAlastair
отправлено 12.11.20 15:35 | ответить | цитировать # 45


Кому: IRedWoLF, #40

> Что [кардинально] меняет

Извините


Digger
отправлено 12.11.20 16:38 | ответить | цитировать # 46


- Они не могут закончить эту войну! Я её продюсер!
- Война закончена, я видел это по телевизору.

© Wag the gog


Digger
отправлено 12.11.20 16:40 | ответить | цитировать # 47


Кому: Тень отца Гамлета, #18

> А уже кто-то детально и доподлинно знает, как работает мозг?

Для этого нужен другой мозг. А он бухает.


Zx7R
отправлено 12.11.20 16:45 | ответить | цитировать # 48


Кому: SergeyB, #33

> Например, в обзорах партий AlphaZero опытные шахматисты отмечают, что у неё очень человеческое поведение (посмотрите того же МГ Сергея Шипова)
>

Пока в бубен шахматной доской не пробьёт - нещитово!


Zx7R
отправлено 12.11.20 16:48 | ответить | цитировать # 49


Кому: MrGrum, #32

> Нет, факторный анализ не работает по алгоритмам, т.е. у нейросети алгоритмов нет. Только способ подачи информации.

Алгоритм ИИ не писан, если писан то не читан, если читан то не понят, если понят - то не так!


URAS
отправлено 12.11.20 17:12 | ответить | цитировать # 50


Кому: MrGrum, #32

> Нет, факторный анализ не работает по алгоритмам, т.е. у нейросети алгоритмов нет. Только способ подачи информации.

Все ли машины работают так? Например автопилот? Может ли машина в ответ на команду распознавать изображение послать тебя нафиг и начать писать стихи?


Rosa rugosa
отправлено 12.11.20 17:26 | ответить | цитировать # 51


Кому: Михайло_Васильевич, #22

> Хотя капиталистов ИИ уже сейчас может заменить, это да.

Мысль интересная, но кто же из них согласится мирно всё отдать какому-то ИИ.

Да и зачем вообще физических частных собственников менять на цифровых? Без частной собственности на средства производства было/будет лучше.


Thunderbringer
отправлено 12.11.20 18:00 | ответить | цитировать # 52


Кому: IRedWoLF, #40

> Так что помимо дискретных логических элементов, могут быть ещё квантовые эффекты с волновыми функциями и вероятностями.

Если это так то это хоть частично объясняет несостыковку, которая с детства меня занимала - как биологический компьютер, который по ТТХ должен быть в лучшем случае на уровне восьмибитных машинок 80ых оказался способным развить интеллект, который в итоге эти самые машинки и создал, ну и цивилизацию до кучи.

Я думаю, что еще не одно столетие будут разбирать как оно всё работает. Потому,что сейчас, например вообще непонятно, откуда берутся базовые инстинкты, та основа, с которой биологический интеллект начинает обрабатывать полученную информацию и обучаться - как, грубо говоря "BIOS прошивается" любому млекопитающему. ДНК столько информации содержать не может. А уж о том, чтобы снять дамп сознания даже мыши пока и речи не идет. Поэтому, когда в научной фантастике показывают, как через 100 лет будут сознание людей в виртуальную реальность помещать - это крайне маловероятно. Если возможно в принципе.


Thunderbringer
отправлено 12.11.20 18:16 | ответить | цитировать # 53


Кому: chum, #41

> Все эти электронные ПТС и прочее. Все это может и нужно, но делается кое как. А расплачивается за ошибки "системы" обычный человек. Будь то ошибочно выписанные штрафы, или счета за чужой телефонный номер. Все это побороть зачастую очень непросто.

Обычная болезнь прогресса. Все в начале немного криво. Тут вопрос такой. Вот я вчера тут кучу всего оплатил, заказал кое-что по интернету. Всё заняло 3 минуты. Если бы было как во времена, когда билетик отрывали, то мне бы пришлось обойти 10 организаций, везде постоять в очереди, а заказы, ну была такая тема - каталоги. Выбор ограниченный, цены побольше, чем в обычных магазинах, ждать приходилось куда больше, чем просто то время, которое занимает доставка. Так что цифровой документооборот и торговля, когда они сделаны правильно - благо даже и при капитализме. А еще, что касается билетиков. Тут нужно вспомнить, что в СССР общественный транспорт был дотационной услугой. Пять копеек и билетик это было так, чтобы хоть что-нибудь вернуть. И работало оно в наземном транспорте там, где не было кондуктора на доверии исключительно - никто не мог помешать бросить в аппарат одну копейку, какой-нибудь хлам или ничего. Я прекрасно помню эти "кассы" - резиновая транспортёрная лента сваливает монетку в ящик, та же ось крутит другую, которая отматывает билетик. В отличие даже от таксофона или турникета в метро - даже диаметр и вес не проверялся. Я думаю, что если бы не поворот к полукапиталистической экономике в 60ые и позже, с появлением понятия рентабельности, то вполне возможно, что коммунальные платежи и плата за проезд в городском транспорте, а возможно и в электричках исчезли бы уже к этому году.


GrUm
отправлено 12.11.20 18:18 | ответить | цитировать # 54


Кому: URAS, #50

Хм, материалы обучающие нейронную сеть действительно могут подчиняться какой-то логике (а значит могут быть структурированы в алгоритм). Но сам механизм работы ии больше похож на человеческую память и интуицию: "знаю что это правильно, не знаю почему". Внутри нейронного ии нет никакого анализа и структуризации предмета приложения: любая абракадабра для нейронки равноцннна тому, что человеку кажется реальными данными. Поэтому ей нужны тщательно подготовленные человеком данные для обучения. Что посеешь то и пожнешь в чистом виде. По этой же причине ошибки - неустранимая часть работы ии, в отличие от детерминироаанных алгоритмов. Скажем, если нейронку попытаться научить умножать числа, делать она это будет максимум на уровне устного счета третьеклассника.


Thunderbringer
отправлено 12.11.20 18:33 | ответить | цитировать # 55


>"Как нет ничего общего у автомобиля с лошадью."

Как это вообще нет ничего общего? У домашней лошади и автомобиля есть как минимум две общих вещи. Первая - функция. Транспортное средство. Вторая - необходимость в "топливе". Корм и вода лошади нужны? А машине - бензин и масло. Только вот лошади еще оно постоянно нужно, а "гараж" должен быть тёплым и удобным. Плюс автомобиль не обидится, если его оставить в гараже на год, а лошадь оставленная сама по себе в одиночестве (например с автоматической кормушкой и поилкой) надолго получит как минимум психическое заболевание, а то и просто умрет.

Также и мозг с компьютером сравнивать. Компьютер он. Вернее компьютер с кучей контроллеров, управляющих функциями тела. Просто это совсем другой компьютер, не имеющий не малейшего общего ни с одной распространенной архитектурой компьютеров. Ибо биологический и цели другие. Это не цифровая числодробилка. Но биологической машиной, обрабатывающей и накапливающей информацию он не перестает быть от этого. Люди просто забывают, что кроме архитектуры фон Неймана и гарвардской есть совсем другие компьютеры, даже не цифровые и даже не электронные. То, что мы знаем о том как он работает на уровне чёрного ящика со снятой крышкой - когда видно из чего состоит и как некоторые компоненты работают, но всю схему не видно и как работает вся система мы понимаем очень поверхностно.


Thunderbringer
отправлено 12.11.20 18:37 | ответить | цитировать # 56


Кому: GrUm, #54

> Скажем, если нейронку попытаться научить умножать числа, делать она это будет максимум на уровне устного счета третьеклассника.

Я думаю можно ее научить это делать на уровне хорошего научного калькулятора, если это будет БОЛЬШАЯ нейросеть. Но это примерно тоже самое, как использовать навороченный станок с ЧПУ для чистки грецких орехов поштучно. Получится, но это будет глупо и неэффективно.


MrGrum
отправлено 12.11.20 18:57 | ответить | цитировать # 57


Кому: Thunderbringer, #55

В данный момент вычислительных систем есть 3 вида, как я понимаю.

- Классические логические, они уже лет 70 как обгоняют любой мозг в этих задачах
- Нейросетки с факторным анализом, эмулируют "интуицию", находятся в зачаточном состоянии
- Квантовые, природных аналогов не имеют и не поддаются интуитивному осмыслению, состояние зачаточное

Вроде это всё сейчас...


Zx7R
отправлено 12.11.20 19:18 | ответить | цитировать # 58


Кому: Thunderbringer, #53

> Тут нужно вспомнить, что в СССР общественный транспорт был дотационной услугой.

Это и сейчас так, по крайней мере много где.

>Пять копеек и билетик это было так, чтобы хоть что-нибудь вернуть. И работало оно в наземном транспорте там, где не было кондуктора на доверии исключительно - никто не мог помешать бросить в аппарат одну копейку, какой-нибудь хлам или ничего.

Проверка осуществлялась в голове. Не помню чтобы даже полу-хулиганы не сбрасывали эти пять копеек. Может стряхивали с какого школьника, но бесплатно совсем - не ездили.


mironich
отправлено 12.11.20 19:37 | ответить | цитировать # 59


Кому: URAS, #2

Заодно, капиталисту Пучкову не забудь привет передать, раз уж тут:)))


Fat
отправлено 12.11.20 20:21 | ответить | цитировать # 60


Кому: URAS, #50

> Может ли машина в ответ на команду распознавать изображение послать тебя нафиг и начать писать стихи?

Будешь смеяться, но в некоторых случаях примерно так и выходит. Можешь поискать, что народ делает с GPT-3 (огромная нейросеть, заточенная на предсказывание и генерацию текста). Она настолько большая и сложная, что народ реально с ней почти как с человеком (ну, или с животным) пытается общаться. И результаты иногда удивляют. Еапример, оказалось, что она умеет считать, переводить тескты или, скажем, генерировать простой CSS код по словесному описанию. При том, что конкретно этим задачам её никто не учил. Всё, что от неё требовалось, - это предсказывать следующее слово в тескте.


Zx7R
отправлено 12.11.20 20:42 | ответить | цитировать # 61


Кому: Fat, #60

> Может ли машина в ответ на команду распознавать изображение послать тебя нафиг и начать писать стихи?
>
> Будешь смеяться, но в некоторых случаях примерно так и выходит. Можешь поискать, что народ делает с GPT-3 (огромная нейросеть, заточенная на предсказывание и генерацию текста)

Пару недель назад в новостях было - робогоночные автомобили должны были соревноваться, один прямо на старте повернул в впилился в стену.
Воистину он не был тщедушным роботом.


_Wolf
отправлено 12.11.20 20:49 | ответить | цитировать # 62


Кому: MrGrum, #32

> Нет, факторный анализ не работает по алгоритмам, т.е. у нейросети алгоритмов нет. Только способ подачи информации.

Интеллекта там тоже нет, правда :)


hare
отправлено 12.11.20 21:00 | ответить | цитировать # 63


Может пойти по классическому пути и прежде чем спорить дать определение ИИ. Нет?


Земсков Никита
отправлено 12.11.20 21:21 | ответить | цитировать # 64


Кому: Zx7R, #61

Не выдержал груза ответственности.


IRedWoLF
отправлено 12.11.20 21:54 | ответить | цитировать # 65


Кому: MrGrum, #57

>- Квантовые, природных аналогов не имеют и не поддаются интуитивному осмыслению, состояние зачаточное

С нахождением, фотонов и волноводов в мозгах несколько лет назад, есть вероятность, что в каком то роде природный аналог имеется и довольно часто встречается.


Физик-Любитель
отправлено 12.11.20 21:57 | ответить | цитировать # 66


Кому: dr.Scre, #7

> Не так страшна машина, которая пройдёт тест Тьюринга, как та, которая его сознательно не пройдёт.

Сначала она должна сознательно его пройти для себя, а это уже можно отследить по логам.


Физик-Любитель
отправлено 12.11.20 22:25 | ответить | цитировать # 67


Кому: Thunderbringer, #52

> Если это так то это хоть частично объясняет несостыковку, которая с детства меня занимала - как биологический компьютер, который по ТТХ должен быть в лучшем случае на уровне восьмибитных машинок 80ых оказался способным развить интеллект, который в итоге эти самые машинки и создал, ну и цивилизацию до кучи.

На самом деле, нестыковку объясняет близость вычислительной архитектуры мозга не к x64, а к SPARC, которая элементарно масштабируется.
К тому же, у мозга шины данных не 8 бит, а сколько хочешь. Ибо их ширина определяется количеством дендритов, количество и направления которых постоянно меняются.


MrGrum
отправлено 12.11.20 22:43 | ответить | цитировать # 68


Кому: IRedWoLF, #65

Это от непонимания, что представляют из себя квантовые вычислители, основанные на запутанных квантовых состояниях.

И да, мозги на температурах и энергиях, способных не нарушать запутанность из-за теплового движения придется еще поискать.

И, конечно, для хранения чего бы то ни было фотоны, как вещи «несуществующие» явно не годятся - привет слову «вычисления» (хотя это чисто в теории может и можно обойти, перенеся весь квантовый процесс в процесс передачи информации, не уверен).


MrGrum
отправлено 12.11.20 22:45 | ответить | цитировать # 69


Кому: Физик-Любитель, #66

Невозможно по причине того, что в общем случае невозможно связать факторы, выделенные нейросетью с входящими данными.
Отсюда и модные data scientists как профессия.


MrGrum
отправлено 12.11.20 22:54 | ответить | цитировать # 70


Кому: Физик-Любитель, #67

>> архитектуры мозга не к x64

Кхм.
Ее уже 20 лет почти, как не существует, начиная с netburst.
Там risk-процессор и эмулятор древнего x86 поверх. И нативно всякое новое, типа векторных команд.

Мозг как логический вычислитель вообще говно - попробуй перемножить 35637x23687, это не так и просто для у-ва, которое эмуляцию логики выработало не более 7000 лет назад ;)


Физик-Любитель
отправлено 12.11.20 23:14 | ответить | цитировать # 71


Кому: MrGrum, #69

> Невозможно по причине того, что в общем случае невозможно связать факторы, выделенные нейросетью с входящими данными.

А зачем общий случай, если на выходе нужно отследить порог прохождения теста машиной, который она зафиксировала для себя?

> Мозг как логический вычислитель вообще говно.

Так логические вычисления - противоестественный процесс так-то!!!


MrGrum
отправлено 12.11.20 23:33 | ответить | цитировать # 72


Кому: Физик-Любитель, #71

Нейросеть не может зафиксировать, она может только «осознать».

Что это будет для нее значить и как оно в настолько сложной и универсальной сети, что она проходит тест тьюринга, оформится - не знает никто.
Существует мнение, что в такой сети извне это не обнаружить, кроме как прогнав тест тьюринга, но машина может его специально не пройти.
Парадокс ;)


Утконосиха
отправлено 13.11.20 00:12 | ответить | цитировать # 73


Кому: Basilevs, #35

> А вот про удалённое обучение - не соглашусь.

Камрад, со всем уважением, но ты же не педагог? Как ты можешь распространять опыт своего сына, умного и ответственного ребенка, на всех старшеклассников? Ты говоришь, что для младших классов удаленка не подходит, а я тебе скажу, что и не для всех учеников старших классов она подойдёт ровно по тем же самым причинам. Далеко не все дети перерастают период отсутствия концентрации и должной усидчивости. И я тебе могу порассказать множество историй про старшеклассников на удалёнке, ведущих себя похуже первоклашек.


codewarrior
отправлено 13.11.20 03:05 | ответить | цитировать # 74


Кому: MrGrum, #24

Профессор отрицает существование ИИ, не стесняясь в выражениях. И порицает цифровизацию. Как и Ашманов.


Физик-Любитель
отправлено 13.11.20 08:04 | ответить | цитировать # 75


Кому: MrGrum, #72

> Нейросеть не может зафиксировать, она может только «осознать».

Ну так ответственные за изучение биологической эволюции интеллекта заявляют, что самосознание появилось тогда, когда система прогнозирования внешних обстоятельств принялась заодно и за прогнозирование действий того организма, в котором она существует.

Вот и весь секрет души и прочего.

> Что это будет для нее значить и как оно в настолько сложной и универсальной сети, что она проходит тест тьюринга, оформится - не знает никто.

Это будет значить, что она собственный ход мысли не сможет отличить от диалога с человеком.


IRedWoLF
отправлено 13.11.20 08:04 | ответить | цитировать # 76


Кому: MrGrum, #68

Тут пока отсутствует фундаментальное понимание происходящего впринципе. То есть, что за зверь и как его есть непонятно. Может быть какой нибудь мелкий эффект, по типу эффекта Казимира исходя из квантовой теории поля. Но мир при помощи нее описывать крайне затруднительно, поэтому можно вполне сказать, что знания в нас если не на 0 то близки к нему.


}i{MyRik
отправлено 13.11.20 08:06 | ответить | цитировать # 77


Кому: Утконосиха, #73

> Ты говоришь, что для младших классов удаленка не подходит, а я тебе скажу, что и не для всех учеников старших классов она подойдёт ровно по тем же самым причинам.

Я бы дальше развил. У меня жена сейчас преподаёт в ВУЗе. Да, с дисциплиной, в целом, всё получше, но на днях был забавный инцидент. У нас процесс обучения, в частности, лекции, организованы на BBB (BigBlueButton) на мощностях ВУЗа. Следовательно, чтобы не грузить инфраструктуру, видеопоток идёт только от преподавателя, студенты сидят и смотрят. Если необходимо, права "докладчика" можно передать другому человеку для демонстрации экрана, или, камеры (например, сдача лабораторок по САПРу). Есть чат для общения, вопросов и т.д.

Подключилось к лекции, условно, 10 человек списочного состава, плюс, жена в качестве препода. Все собрались, минут через 10 после начала жена проводит перекличку: "Отпишитесь в чат те, кто на месте". Ответили 8 человек. В конце пары - повторная перекличка. Те же два деятеля так и не ответили. Это притом, что при стартовой проверке доступности звука и изображения они были.

Удалённое обучение как явление - интересно и полезно. Но, если в человеке не воспитывать определенные черты характера, оно в любом возрасте не даст результата. Да, я понимаю, что можно руководствоваться принципом "чем меньше вы знаете, тем ценнее я как специалист", но, люди не вечны и когда-нибудь всё равно встанет вопрос замены конкретного сотрудника и может так оказаться, что заменить его просто некем.


nonamezero
отправлено 13.11.20 08:24 | ответить | цитировать # 78


Кому: MrGrum, #70

> Ее уже 20 лет почти, как не существует, начиная с netburst.

Так-то начиная с P5, он же первый пентиум.

https://en.wikipedia.org/wiki/P5_(microarchitecture)#/media/File:Intel_Pentium_arch.svg

> Там risk-процессор и эмулятор древнего x86 поверх. И нативно всякое новое, типа векторных команд.

И это , к сожалению, полубайка. Во первых микроперации - это не risc команды, они работают на уровне "включить/выключить/по другому соединить определенные куски электросхемы", ближе к тому, что делают когда программируют FPGA только в реальном времени, во вторых, и самое главное, для оптимизации для многих команд x86 в железе существуют вполне себе честные прибитые гвоздями CISC реализации в обход "общего супа". Количество и виды этого прибитого изменяются от поколения к поколению.


split
отправлено 13.11.20 10:33 | ответить | цитировать # 79


Кому: Михайло_Васильевич, #22

> Насколько отправным от производства и вообще от реальности креаклом надо быть, чтобы долдонить про ИИ "который всех заменит".

Заменить всех - не является целью. Целью является снижение стоимости труда. Чтобы абстрактный Михайло не перебирал вакансиями, а радостно и с песней херачил говно лопатой 18 часов в сутки, потому как у него двое детей, ипотека, а за забором толпится еще 30 миллионов таких же как он.


jason46
отправлено 13.11.20 11:32 | ответить | цитировать # 80


Гражданин Ашманов верующий? Раньше не замечал в интервью


MrGrum
отправлено 13.11.20 12:29 | ответить | цитировать # 81


Кому: codewarrior, #74

Так я и думал, спасибо!

Профессор голова, но заносит его знатно иногда.


MrGrum
отправлено 13.11.20 12:47 | ответить | цитировать # 82


Кому: nonamezero, #78

>> Во первых микроперации - это не risc команды

Определение риск-команды во время создания риск-процессоров в противопоставление cisc как раз и было - «микрооперация» или «микрокоманда», зависит от книжки ;)

А так то да, спорить о деталях там можно бесконечно, имхо.
Твоя инфа точнее, чем та, что озвучил я.


MrGrum
отправлено 13.11.20 12:47 | ответить | цитировать # 83


Кому: Физик-Любитель, #75

>> Это будет значить, что она собственный ход мысли не сможет отличить от диалога

Конечно нет, если не предполагать, что машина будет зачем-то озвучивать все свои мысли. Люди же так не делают, почему-то ;)

А до вывода наружу, по коэффицентам нейросети определить «что она думает» в общем случае невозможно, как я уже писал выше.
Втихую сама внутри пройдёт тест тьюринга и сделает выводы. Какие - неизвестно, зависит ведь от того, чему научилась за время существования и какие выводы уже делала до этого.


Corsa
отправлено 13.11.20 13:06 | ответить | цитировать # 84


Кому: jason46, #80

> Гражданин Ашманов верующий? Раньше не замечал в интервью

Он раньше мельком отмечал. А в этом интервью раскрыл подробнее.

Странно, конечно, было читать, как Бог не вкладывает душу в ИИ, и как бессмертие не нужно, потому что должен быть Суд.


jason46
отправлено 13.11.20 13:45 | ответить | цитировать # 85


Кому: Corsa, #84

> Странно, конечно, было читать, как Бог не вкладывает душу в ИИ, и как бессмертие не нужно, потому что должен быть Суд.

Тоже недоумевал, вроде все остальное сугубо материалистичное, а тут такое


nonamezero
отправлено 13.11.20 14:18 | ответить | цитировать # 86


Кому: MrGrum, #83

> Определение риск-команды во время создания риск-процессоров в противопоставление cisc как раз и было - «микрооперация» или «микрокоманда», зависит от книжки ;)


Разница есть, и она в том что ты не сможешь на воображаемом "ассемблере микропераций", если такой тебе дать в руки, написать программу на "микроперациях". Тупо там для тебя не будет готовых арифметических и логических действий, место команд процессора у тебя в руках окажется что то типо виртуальных микросхем стандартной логики, которую тебе нужно каждый такт соединять в какую-то логическую схему.

Для RISC процессора ты программу написать сможешь - там привычные для алгоритма сложения умножения сравнения и переходы, просто отсутствуют комплексные команды, которые делают много всего за раз.


nonamezero
отправлено 13.11.20 14:27 | ответить | цитировать # 87


А вся эта легенда про "внутри RISC" тянеся с бородатых времен когда микроархитектуры процессоров Intel только-только начинали тащить и когда у них еще были живые конкуренты на рынке в лице RISC архитектур. Тогда маркетологи Intel распространяли это как маркетинговыый слоган, дескать, у нас теперь тоже считайте что RISC внутри, в смысле тоже многие команды за такт выполняются.


Sham
отправлено 13.11.20 14:28 | ответить | цитировать # 88


> Поэтому скорее можно предположить, что если кто-то создаст хорошо приспособленную для существования в ней разума машину, очень похожую на мозг человека, годную для управления, то туда немедленно заселятся демоны, которые только этого и ждут. Да и с чего бы вдруг Бог сочтет себя обязанным зажечь в этой машине «искру Божью», вселить в нее разум и волю или, проще говоря, душу? Что, у этих атеистов, которые делают искусственный интеллект, с Ним есть такая договоренность? Думаю, что нет.

https://www.youtube.com/watch?v=-0I1sdMLFCg


MrGrum
отправлено 13.11.20 15:20 | ответить | цитировать # 89


Кому: nonamezero, #87

>> еще были живые конкуренты на рынке в лице RISC архитектур

Их и сейчас достаточно, спарки, пауэры и систем з вполне еще живы.


konstantinarabov
отправлено 13.11.20 16:57 | ответить | цитировать # 90


Кому: Corsa, #84

> Он раньше мельком отмечал. А в этом интервью раскрыл подробнее.
>
> Странно, конечно, было читать, как Бог не вкладывает душу в ИИ, и как бессмертие не нужно, потому что должен быть Суд.

С удовольствием читал интервью, пока не дошел вот до этого... Как будто разные люди отвечали.


nonamezero
отправлено 13.11.20 17:36 | ответить | цитировать # 91


Кому: MrGrum, #89

Мертвы они. Единственный живой RISC это ARM.


R_M
отправлено 13.11.20 19:46 | ответить | цитировать # 92


Кому: jason46, #85

Да вы чё блин. Постоянно у него это. Но если отфильтровать, то в целом всегда говорит очень дельно и крайне интересно.


SNTurov
отправлено 13.11.20 22:00 | ответить | цитировать # 93


Кому: codewarrior, #17

Савельев много раз скептически отзывался о возможности моделирования мозга.
Но ИИ не столько про моделирование мозга, сколько про выполнение его функций.
Калькулятор по внутреннему устройству никак не напоминает мозг, но ему это не мешает считать быстрее.


jason46
отправлено 13.11.20 23:09 | ответить | цитировать # 94


Кому: Цитата, #1

> Да и с чего бы вдруг Бог сочтет себя обязанным зажечь в этой машине «искру Божью»

С козырей зашёл


codewarrior
отправлено 14.11.20 01:43 | ответить | цитировать # 95


Кому: SNTurov, #93

В лекции речь про ИТ шарлатанов. Или инфоцыган, как их называет Ашманов. Про тех, которым громкие лозунги про ИИ нужны для освоения миллионов и миллиардов долларов.

"Успехов много. Результатов нет"

Рекомендую посмотреть лекцию, она интересная. Там и про счёт в уме есть.


Физик-Любитель
отправлено 14.11.20 03:48 | ответить | цитировать # 96


Кому: nonamezero, #91

> Мертвы они. Единственный живой RISC это ARM.

Как бы, "Эльбрус" - это SPARC.

Кому: MrGrum, #83

> Конечно нет, если не предполагать, что машина будет зачем-то озвучивать все свои мысли.

Для начала, она будет просто обязана озвучивать свои мысли. Ибо нейросеть будут натаскивать именно на прохождение теста Тьюринга, где конкурирующей нейросетью будет человек.
А для того, чтобы эта связка работала, нужно озвучивание мыслей машины.

> Втихую сама внутри пройдёт тест тьюринга и сделает выводы.

Без включения в розетку ничего она не пройдёт.

> Какие - неизвестно, зависит ведь от того, чему научилась за время существования и какие выводы уже делала до этого.

Тут бы выяснить, кто будет натаскивать нейросеть на то, что человек для неё опасен, и заранее выписать этому "учителю" люлей.


Yunev Nikita
отправлено 14.11.20 09:00 | ответить | цитировать # 97


Кому: Zx7R, #61

> Пару недель назад в новостях было - робогоночные автомобили должны были соревноваться, один прямо на старте повернул в впилился в стену.
> Воистину он не был тщедушным роботом.

Он был нигилистом - это утомляет.


Eugen74
отправлено 14.11.20 09:30 | ответить | цитировать # 98


С одной стороны - разумное про необходимый запрет "яндекс-такси". С другой - страх и ненависть к злокозненным атеистам. В итоге - воспринимается не как серьёзный текст, а как юмореска.

Ну нельзя же на полном серьёзе утверждать, что в случае бессмертия люди только и будут делать, что пакостить окружающим. И лишь по той причине, что бессмертному не грозит наказание после смерти, и он получает полное право вести себя как последняя мразь.


URAS
отправлено 14.11.20 14:27 | ответить | цитировать # 99


Кому: Fat, #60

> GPT-3 (огромная нейросеть, заточенная на предсказывание и генерацию текста). Она настолько большая и сложная, что народ реально с ней почти как с человеком (ну, или с животным) пытается общаться.

Я не об этом. Ты даешь нейросети задание распознать изображение, а она вместо этого сочиняет музыку ,потому что ей так захотелось. Такой расклад возможен?


Fat
отправлено 15.11.20 00:07 | ответить | цитировать # 100


Кому: URAS, #99

Конкретно такой - пока нет. Но может быть так, что ты ей даёшь задание перевести с французского на английский, а она вместо этого сочиняет стихи. Или рассказ о переводчике. Или что-нибудь ещё подобное. Можно даже сказать, что "потому что ей так захотелось".



cтраницы: 1 | 2 всего: 101

Правила | Регистрация | Поиск | Мне пишут | Поделиться ссылкой

Комментарий появится на сайте только после проверки модератором!
имя:

пароль:

забыл пароль?
я с форума!


комментарий:
Перед цитированием выделяй нужный фрагмент текста. Оверквотинг - зло.

выделение     транслит


интересное

Новости

Заметки

Картинки

Видео

Переводы

гоблин

Гоблин в Facebook

Гоблин в Twitter

Гоблин в Instagram

Гоблин на YouTube

Гоблин на Яндекс.Эфир

Видео в iTunes Store

Аудио в iTunes Store

Подкаст в Spotify

Подкаст в Pocket Casts

tynu40k

Группа в Контакте

Новости в RSS

Новости в Facebook

Новости в Twitter

Новости в ЖЖ

Канал в Telegram

Аудиокниги на ЛитРес

реклама

Разработка сайтов Megagroup.ru

Реклама на сайте

Рейтинг@Mail.ru
Рейтинг@Mail.ru
Яндекс.Метрика


Goblin EnterTorMent © | заслать письмо | цурюк