Пространство свободы

Юрий Манин - математик. Его исследовательские интересы: алгебраическая геометрия, диофантовы уравнения, интегрируемые системы, квантовые струны, теория вычислимости, включая квантовые вычисления.

Юрий Иванович в последние годы работает в Германии, и предлагаемая вашему вниманию беседа велась по электронной почте.

Юрий Иванович, давайте начнем с такого вопроса. Лет двадцать назад вы написали в одной из своих статей или книг (увы, не нашел источника - я был уверен, что это «Доказуемое и недоказуемое») примерно так: сегодня математика наступает на мир под заградительным огнем электронных арифмометров. Чем закончилась та «кампания»? Сейчас такое вряд ли можно было бы написать. Не прокомментируете ли это высказывание с сегодняшних позиций?

- Я не помню этой фразы, но попробую восстановить умонастроение, в котором она могла быть сказана.

В шестидесятые годы бытовал журналистский штамп: «Компьютеры - усилители человеческого разума». В одной публичной лекции того времени я просил не забывать, что в той же мере они усиливают человеческую глупость. (Вспомните точную формулу Аркадия Белинкова: «Глупость - это не отсутствие ума, а такой ум».)

Коэффициент усиления, обеспечиваемый современными компьютерами, на много порядков выше, доступ к ним намного легче, а количество глупости и жестокости, подвергаемых усилению, не уменьшилось.

Компьютерное «усиление разума» сегодня связано с гигантским ростом качества коммуникации - в частности, научной. Каким образом это влияет на прогресс науки в принципиальных вопросах («прогресс понимания», если угодно)?



Давайте посмотрим на нынешний день в исторической перспективе.

Прошло совсем немного времени с тех пор, когда укоренилась методика научного наблюдения и эксперимента, был создан математический анализ и приобрела современные черты система общего светского образования, поддержанная книгопечатанием.

Благодаря научному эксперименту, мы научились задавать вопросы природе и получать на них ответы, а не придумывать их. Благодаря математике, мы смогли думать о природе, не будучи слишком связаны расплывчатой метафоричностью естественного языка. Благодаря школе и книгопечатанию, мы передаем эти знания и привычки своим детям.

К этому следует добавить еще одну неочевидную (или слишком очевидную) констатацию: нам все это нравится, в этом реализована наша идея прогресса.

Существуют традиционные общества с высокой гуманитарной культурой, которые обошлись бы без научного эксперимента, без светского образования и без компьютеров, если бы наша западная цивилизация им все это не навязывала.

Компьютеры ускорили наше движение по пути, по которому мы уже шли.

Там, где мы уже знали «законы природы», но выведение из них следствий требовало больших вычислений, компьютеры оказались незаменимы.

Там, где мы должны зафиксировать результаты многих измерений и наблюдений, чтобы затем размышлять над ними, делать выборки, статистически обрабатывать, - то же самое. Можно назвать базы данных, связанные с программой «Геном», с исследованиями крупномасштабной структуры Вселенной, скрининг химических веществ на фармакологическую активность, словари и более сложные лингвистические базы данных.

Наконец, демократический Интернет может вытеснить или преобразовать книгу и школу, но лишь в той мере, в какой возьмет их функции на себя.

Мне кажется, научный прогресс стал быстрее, даже много быстрее, но не приобрел качественно нового характера.

Понимание остается делом индивидуального сознания и, я бы сказал, каждый раз актом личного мужества. Каким образом собранная Дарвином «база данных» привела его к теории эволюции, мы не знаем. Как Эйнштейн, не имея никаких наблюдательных данных, придумал релятивистскую теорию гравитации, мы не имеем представления. Подобных прорывов, связанных с ростом объема и скорости коммуникации, я пока не могу назвать.

Однако один футуристический сценарий напрашивается. Может оказаться, что мы приближаемся к пределу, за которым интересующую нас информацию о природе мы просто не сможем воспринимать, не столько из-за ее объема, сколько из-за величины ее колмогоровской сложности. Иными словами, даже в максимально сжатом виде ее будет слишком много. Возможно, что работа генетического аппарата и мозга уже обречена остаться недоступной человеческому сознанию в силу этого фундаментального ограничения.

Если мы не захотим отказываться от накопления научного знания, эту задачу придется передать вычислительным машинам. Как они будут автономно работать и что они смогут нам сообщать время от времени?

Это не то, что вычислять на суперкомпьютере тома знаков «пи»: у «пи» колмогоровская сложность пустяковая…

Тут уж не спросить о компьютерном разуме невозможно! Убедительны ли аргументы против возможности такового на основе теорем Гёделя и Тьюринга (задача остановки, диагональный процесс), приведенные, например, Роджером Пенроузом (Roger Penrose) в его известной книге «Тени разума» («Shadows of the Mind»)? Ведь и нейросеть, и вероятностный компьютер, и даже, кажется, квантовый компьютер в принципе моделируемы на машине Тьюринга - и значит, если Пенроуз прав, не могут породить искусственный интеллект. Вообще, знаем ли мы сегодня больше, скажем, Раймонда Луллия о том, что такое разум?

-

Теорема Гёделя - это очень точное, математически точное утверждение о дедуктивных системах определенного типа; то же можно сказать о теореме Тьюринга.

«Разум» - слово естественного языка, которое не имеет терминологического значения ни в одном известном мне контексте. Раймонд Луллий, вероятно, согласился бы с замечанием, что использование этого слова в научной или философской дискуссии есть типичный пример ошибки, называемой «реификация» - возникновение из воздуха предмета, для которого есть слово, материализация означаемого при произнесении означающего. Это как раз пример того, что я назвал выше расплывчатой метафоричностью естественного языка.

Я полагаю, что поэтому не может быть никаких научных аргументов ни за, ни против искусственного интеллекта - мы не условились, о чем говорим.

Ненаучные разговоры, однако, могут быть и занятными, и содержательными. Семантическое поле понятия «разум» очень широкое, в частности, оно имеет, по убыванию масштабов, эволюционный, цивилизационный и личностный пласты. Я оставлю в стороне первый: здесь речь идет о проторазуме животных, о возникновении Homo Sapiens как существа разумного, о том разуме, который Сент-Дьерди назвал «средством выживания, как клыки и когти».

В цивилизационном аспекте я коснусь лишь одного обстоятельства, существенного для нашей дискуссии.

Разум занимает совершенно особое место в шкале ценностей людей Просвещения: будущее представлялось этим людям «царством Разума». Даже когда мы не сознаем этого, наши разговоры о разуме окрашены этой интенсивной ценностной установкой.

Любопытна амбивалентность идеи об искусственном интеллекте в этой ценностной ауре.

Вера в возможность его создания может рассматриваться как высшее достижение человеческого разума на его долгом пути к самопознанию. А говоря практически, под это удачное словосочетание можно получать крупные гранты, пока и поскольку оно ласкает слух современных политиков.

С другой стороны, эту же веру можно расценивать как глубокое заблуждение вульгарного материализма, в основе которого лежит неуважение к разуму - божественной искре, или к разуму - таинственному и чудесному плоду биологической эволюции.

Тьюринг, экспериментируя с идеей разума, занимался его личностным аспектом, и более того, его операционным аспектом. Условно говоря, для него разум отождествлялся с некоторыми специфическими видами деятельности. Где-то в его юношеских дневниках есть такой вопрос: если душа бессмертна, зачем ей вообще воплощаться в смертное тело? И ответ: затем, что только тело способно действовать.

Тьюринг сделал, или, скорее, детально разработал совершенно гениальное открытие. Он обнаружил генетический код хранения и переработки информации. Его биты и элементарные операции, действующие на один-два бита, это мельчайшие мыслимые единицы детерминированной интеллектуальной деятельности.

Второе озарение Тьюринга - это выбор слова «машина» и физической картинки для своего вычислителя: он подчеркнул, что действует материальный объект, хотя и описываемый идеализированно. Во всех других пионерских разработках того времени центральное место занимают лингвистические, а не физические абстракции: язык, алгоритм, формальная система.

Тьюринговский анализ интеллекта может быть правильно оценен только в рамках этой, центральной для него, парадигмы: «разум есть специфическая деятельность».

Я не занимался специально обдумыванием позиции Пенроуза. Кроме прочего, кажется, он хочет сказать, что теория классических автоматов в духе Тьюринга не может хорошо работать в применении к мозгу, который должен быть существенно квантовым устройством.

Относительно вашего замечания, что квантовый вычислитель можно имитировать на вероятностном классическом автомате: да, но только с экспоненциальным возрастанием потребных ресурсов, памяти и времени.