Тест Тьюринга: Беседа в кафетерии

 

УЧАСТНИКИ

Крис, студент-физик; Пат, студентка-биолог; Сэнди, студентка-философ

 

 

КРИС: Сэнди, я хотел тебя поблагодарить за то, что ты мне порекомендовала прочесть статью Алана Тьюринга “Вычислительные машины и разум”. Это прекрасная работа, и она заставила меня задуматься — в частности, задуматься о моей способности думать.

СЭНДИ: Рада слышать. Ты все еще остаешься таким же скептиком в отношении искусственного разума, как раньше?

КРИС: Ты меня неправильно поняла. Я не против искусственного интеллекта; я считаю, что это замечательная штука — может быть, с примесью безумия, но почему бы и нет? Я просто убежден, что сторонники ИИ сильно преуменьшают достоинства человеческого разума, и что есть вещи, которых компьютер никогда не сможет сделать. Например, можешь ли ты вообразить компьютер, пишущий новеллу в стиле Пруста? Богатство воображения, сложность характеров…

СЭНДИ: Рим не был построен в один день!

КРИС: Из статьи видно, что Тьюринг был интересным человеком. Он еще жив?

СЭНДИ: Нет, он умер в 1954 году. Ему был всего сорок один год. Сейчас ему было бы всего шестьдесят семь; правда, он стал такой легендарной фигурой, что странно даже подумать, что он мог бы быть еще жив сегодня.

КРИС: От чего он умер?

СЭНДИ: Почти наверняка это было самоубийство. Он был гомосексуалистом, и ему пришлось столкнуться с жестокостью и непониманием общества. В конце концов он, видимо, не выдержал, и убил себя.

КРИС: Печальная история.

СЭНДИ: Да, конечно. Меня особенно печалит то, что он не смог увидеть удивительного прогресса последних лет в вычислительной технике и теории.

ПАТ: А мне вы расскажете, о чем эта статья Тьюринга?

СЭНДИ: В основном, она посвящена двум вещам. Одна — это вопрос “Могут ли машины мыслить?” — или, точнее, “Будут ли машины когда-либо мыслить?”. Тьюринг отвечает на этот вопрос — кстати, утвердительно, — оспаривая один за другим ряд возражений против этой идеи. Кроме этого он утверждает, что в этой форме вопрос не имеет смысла — он слишком полон эмоциональных коннотаций. Многие люди раздражаются, когда слышат, что люди — машины, или что машины способны мыслить. Тьюринг пытается избавиться от лишних эмоций, ставя тот же вопрос в более нейтральной форме. Вот, например, ты, Пат — что ты думаешь о “думающих машинах”?

ПАТ: Честно говоря, меня сбивает с толку само это выражение. Знаешь, что меня смущает? Все эти объявления в газетах и по телевизору, рекламирующие “думающие продукты”, “разумные духовки” и т.п. Я просто не знаю, насколько серьезно к ним следует относиться.

СЭНДИ: Я знаю, о каких объявлениях ты говоришь, и думаю, что они сбивают с толку не только тебя. С одной стороны, нам внушают, что “компьютеры на самом деле глупы, им приходится объяснять все до мелочей” — с другой стороны, нас закидывают объявлениями об “умных продуктах”.

КРИС: Ты права. Я слышал, что какой-то производитель компьютерных терминалов решил выделиться, называя свой продукт “глупыми терминалами”.

СЭНДИ: Это забавно, но, как и другие подобные трюки, только затемняет вопрос. Когда я думаю об этой проблеме, мне на ум всегда приходит выражение “электронный мозг”. Одни принимают его безоговорочно, другие не задумываясь отвергают. Мало у кого хватает терпения проанализировать ситуацию и решить, есть ли в нем смысл.

ПАТ: А что, Тьюринг предлагает решение? Какой-нибудь тест на разумность для машин, вроде Ай Кью? (Коэффициент умственного развития, стандартный тест на умственное развитие. — Прим. перев.)

СЭНДИ: Это было бы интересно, но пока ни одна машина еще не подошла близко к тому, чтобы попробовать свои силы на Ай Кью. Вместо этого Тьюринг предлагает тест, который теоретически приложим к любой машине; тест Тьюринга помогает определить, может ли она думать.

ПАТ: Неужели этот тест дает однозначный ответ? Если так, то я бы в нем усомнилась!

СЭНДИ: Нет, ничего такого Тьюринг не утверждает. В каком-то смысле, это и есть одно из преимуществ его теста. Он указывает, насколько расплывчата граница и насколько непрост весь этот вопрос.

ПАТ: Значит, как всегда в философии, это все вопрос словоупотребления.

СЭНДИ: Возможно; но эти слова несут большую эмоциональную нагрузку, и поэтому мне кажется важным как следует рассмотреть этот вопрос и точно определить значения основных слов. Эти проблема лежит в основе нашего понимания самих себя, и мы не должны ее игнорировать.

ПАТ: Теперь объясни, в чем состоит тест Тьюринга.

СЭНДИ: Его идея основана на том, что он называет “игрой-имитацией”. В этой игре участвуют мужчина и женщина; они расходятся по отдельным комнатам и отвечают на вопросы третьего участника, экзаменатора. Вопросы и ответы передаются устройством вроде телетайпа. Экзаменатор может посылать вопросы в любую комнату, но он не знает, кто в ней. Его задача — определить, в какой комнате находится женщина. Задача женщины — своими ответами помогать экзаменатору, в то время как мужчина старается сбить того с толку, отвечая так, как по его мнению должна бы ответить женщина. И если ему удается одурачить экзаменатора…

ПАТ: Значит, экзаменатор видит только напечатанные слова? И должен определить пол отвечающего? Да, задачка не из легких! Хотелось бы когда-нибудь поиграть в такую игру. Скажи, до начала игры экзаменатор знает обоих играющих лично? А они знают друг друга?

СЭНДИ: Думаю, что это было бы плохо. В таком случае экзаменатор мог бы использовать всяческие трюки на подсознательном уровне. Эксперимент был бы гораздо чище, если бы никто из играющих не знал никого из остальных.

ПАТ: Можно задавать любые вопросы, без ограничений?

СЭНДИ: Конечно; в этом-то вся соль!

ПАТ: Тебе не кажется, что тогда очень скоро вопросы станут однобокими, ориентированными на тот или иной пол? Могу себе представить мужчину, который выдаст себя с головой, с готовностью ответив на такие вопросы, которые большинство женщин посчитают слишком личными, чтобы отвечать на них даже посредством безличной компьютерной связи.

СЭНДИ: Вполне возможно.

КРИС: Можно было бы попытаться нащупать разницу в знании второстепенных аспектов социальных ролей, определяемых полом, спрашивая о чем-нибудь вроде размеров одежды и т.п. Психология игры-имитации может быть очень тонкой. Думаю, что многое зависело бы от того, мужчина или женщина сам экзаменатор. Вам не кажется, что женщина могла бы найти различия быстрее мужчины?

ПАТ: Если это так, то может это и есть способ их различить?

СЭНДИ: Гм… Интересная мысль. Так или иначе, не знаю, опробовал ли кто-нибудь эту первоначальную версию игры-имитации на практике. С помощью современных компьютерных терминалов это было бы нетрудно. Но должна признаться, что не знаю, что́ такая игра доказала бы, при любом ее исходе.

ПАТ: Я тоже об этом подумала. Что из того, если экзаменатор — скажем, женщина — не смог бы определить, кто из двоих игроков — женщина? Это вовсе не доказывало бы, что мужчина на самом деле женщина!

СЭНДИ: Вот именно! Хотя я сама в целом за тест Тьюринга, я не понимаю, в чем смысл игры-имитации, на котором он основан.

КРИС: Мне кажется, что тест Тьюринга как испытание для “думающих машин” ничем не лучше игры-имитации как испытания на женственность.

ПАТ: Если я правильно вас поняла, тест Тьюринга — такой вариант игры-имитации, в котором один из игроков — человек, а другой — компьютер.

СЭНДИ: Правильно. Машина пытается убедить экзаменатора в том, что она — человек, а человек помогает экзаменатору, правдиво убеждая того в своей человеческой природе.

ПАТ: Если пропустить мимо ушей твою провокационную фразу “машина пытается”, все это звучит довольно интересно. Но откуда ты знаешь, что этот тест определяет суть мышления? Может быть, он проверяет что-нибудь другое. Вот только один возможный пример: скажем, кто-нибудь может решить, что машина мыслит, если она умеет танцевать так же хорошо, как человек. А кто-нибудь другой может придумать иной критерий. Что такого особенного в умении дурачить людей, печатая ответы?

СЭНДИ: Не понимаю, как ты можешь такое говорить. Мне уже доводилось слышать это возражение, но, честно говоря, оно меня удивляет. Что с того, если машина умеет танцевать или может уронить камень тебе на ногу? По мне, если машина способна разумно рассуждать на любую предложенную тему, эта машина может мыслить. Мне кажется, что Тьюрингу удалось одним росчерком пера наметить четкую границу между мышлением и другими аспектами человеческого бытия.

ПАТ: Теперь ты меня удивляешь. Если мы не могли заключить ничего определенного из человеческой способности победить в этой игре, то как мы можем делать какие-либо заключения из способности компьютера победить в ней?

КРИС: Отличный вопрос!

СЭНДИ: Мне кажется, что из способности мужчины выигрывать в этой игре можно кое-что заключить. Вы не сможете заключить, что он — женщина, но поймете, что он неплохо разбирается в женской психологии (если таковая вообще существует). Если же компьютеру удастся обмануть экзаменатора и заставить его поверить в то, что он — человек, то о нем можно будет сказать, что он хорошо понимает человеческую психологию и неплохо разбирается в том, что означает — быть человеком (что бы это ни означало).

ПАТ: Может быть — но ведь это не равносильно мышлению, не так ли? Мне кажется, что машина, выдержавшая тест Тьюринга, докажет только то, что она отлично умеет подражать мышлению.

КРИС: Я совершенно согласен с Пат. Мы все знаем, что сейчас есть сложнейшие программы, имитирующие самые разные явления. Например, в физике мы имитируем поведение частиц, атомов, твердых веществ, жидкостей, газов, галактик и так далее. Но никто не принимает эти имитации за сами явления!

СЭНДИ: У Дэниэля Деннетта в его книге “Мозговая атака” есть похожее сравнение, только там он говорит об имитации ураганов.

КРИС: Это тоже отличный пример. Ясно, что когда компьютер симулирует ураган, внутри у него никакого урагана нет, память машины не разрушается от ветра, дующего со скоростью 200 миль в в час, на полу в компьютерной лаборатории нет дождевой воды и так далее.

СЭНДИ: Да ну вас! Это нечестное сравнение! Во-первых, программисты и не утверждают, что создают настоящий ураган. Это всего лишь имитация некоторых его аспектов. А во-вторых, неправда, что в симулированном урагане нет ливня и ветра со скоростью 200 миль в час. Для нас, разумеется, их нет — но если бы программа была разработана во всех деталях, она могла бы включать симулированных людей на земле, которые испытывали бы дождь и ветер так же, как мы, когда на нас налетает ураган. В их мыслях — или, если вам так больше нравится, в их симулированных мыслях — ураган был бы не имитацией, а настоящим явлением, несущим потоп и разрушение.

КРИС: Ну и ну! Что за фантастический сценарий! Теперь мы уже дошли до симуляции целых народов, а не только одного-единственного разума.

СЭНДИ: Я только хотела показать тебе, почему твой довод о том, что симулированный предмет — это не то же самое, что настоящий предмет, не годится. Он основан на молчаливом допущении того, что любой наблюдатель симулированных объектов, достаточно знакомый с предметом наблюдения, способен определить, что происходит. На самом деле, для этого может понадобиться наблюдатель с определенной точкой зрения. В таком случае, ему будут нужны специальные “компьютерные очки”, в которые он сможет увидеть ветер, дождь и так далее.

ПАТ: “Компьютерные очки”? О чем ты?

СЭНДИ: Я хотела сказать, что для того, чтобы увидеть ливень и ветер этого урагана, наблюдатель должен быть способен взглянуть на него с правильной точки зрения.

КРИС: Нет, нет и нет! Никакого ливня в симулированном урагане нет. Неважно, насколько мокрым ураган кажется симулированным людям, он никогда не будет по-настоящему мокрым! И никакой компьютер никогда не будет разрушен ураганным ветром!

СЭНДИ: Разумеется, нет — но ты путаешь разные уровни. Законы физики не разрушаются настоящими ураганами. В случае симулированного урагана, если ты посмотришь в память компьютера, надеясь найти там разорванные провода и так далее, тебя ждет разочарование. Но посмотри на правильный уровень — на те структуры, которые закодированы в памяти. Ты обнаружишь, что некие абстрактные связи порваны, некоторые значения переменных радикально изменились и тому подобное. Вот это и есть те самые потоп и разрушение — и все это настоящее, только спрятано и труднонаходимо.

КРИС: Извини, но я в это не верю. Ты настаиваешь, что я должен искать новый вид разрушения, который никогда раньше не ассоциировался с ураганами. Выходит, можно считать ураганом любое явление, если только его результат, увиденный через специальные “очки”, может быть назван “потопом и разрушением”.

СЭНДИ: Именно так — ты правильно понял! Ураган узнается по его результатам. Тебе никогда не удастся забраться в самый центр урагана и найти там его “бесплотную сущность”, “душу урагана”. Мы узнаем ураганы по существованию некоей схемы: спиральный шторм со штилем в центре. Разумеется, чтобы называться ураганом, явление должно удовлетворять многим условиям.

ПАТ: Тебе не кажется, что “атмосферное явление” — необходимая составляющая определения урагана? Как можно назвать ураганом нечто, происходящее внутри компьютера? По-моему, симуляция — это симуляция и ничего больше!

СЭНДИ: Тогда ты, наверное, считаешь, что и расчеты, производимые компьютером, — всего лишь подделка. Это не настоящие расчеты. Только люди могут считать по-настоящему, не так ли?

ПАТ: Компьютеры получают верные ответы, так что их расчеты нельзя назвать подделкой — но все равно, это всего лишь определенные схемы. Компьютер не понимает, что он делает. Возьми, например, кассовый аппарат. Можешь ли ты серьезно утверждать, что, когда его колесики крутятся, он чувствует, что совершает расчеты? Насколько я понимаю, компьютер — это тот же кассовый аппарат, только посложнее.

СЭНДИ: Конечно, кассовый аппарат не чувствует себя, как школьник, решающий арифметические задачки — тут я с тобой согласна. Но разве “расчеты” означают именно это? Разве это — необходимая часть расчетов? Если это так, то нам придется пересмотреть наши взгляды и написать сложнейшую программу для совершения настоящих расчетов. Разумеется, такая программа иногда будет ошибаться, или писать ответы небрежно, или в задумчивости рисовать на бумаге каракули… Она будет не надежнее, чем почтовый работник, складывающий числа от руки. Вообще-то я считаю, что когда-нибудь подобная программа может быть написана. Тогда мы узнаем много интересного о том, как работают почтовые служащие и школьники.

ПАТ: А я не верю, что подобное будет когда-нибудь возможно!

СЭНДИ: Может быть, да, а может быть, и нет — но не в этом дело. Ты говоришь, что кассовый аппарат не способен считать. Твое утверждение напоминает мне еще об одном моем любимом отрывке из “Мозговой атаки” Деннетта. Этот отрывок довольно ироничен, за что он мне и нравится. Деннетт пишет примерно так: “Кассовые аппараты не могут считать по-настоящему — они могут только вращать колесиками. Однако, сами они и колесики не могут крутить — они могут лишь следовать законам физики.” У Деннетта это сказано о компьютерах; я же применяю это к кассовым аппаратам. И ту же логику можно применить и к людям: “На самом деле, люди не могут считать по-настоящему — они лишь манипулируют мысленными символами. Но и символами они не манипулируют, а только возбуждают различные нейроны в разных сочетаниях. Однако они не могут самостоятельно возбуждать собственные нейроны; им приходится позволять законам физики делать это за них”. И так далее. Видишь, как это вдохновленное Деннеттом reductio ad absurdum может заставить тебя заключить, что вычислений не существует, ураганов не существует… и вообще нет ничего выше уровня частиц и законов физики? Что ты выигрываешь, утверждая, что компьютер всего лишь манипулирует символами и не вычисляет по-настоящему?

ПАТ: Не будем ударяться в крайности; я только хотела подчеркнуть, что между настоящими явлениями и их имитацией имеется огромная разница. Это верно в случае ураганов и еще вернее в случае мышления.

СЭНДИ: Не хочу застревать на этом аргументе, но позволь привести еще один пример. Представь себе, что ты — радиолюбитель. Ты слушаешь другого радиолюбителя, передающего сообщение морзянкой, и отвечаешь ему на том же коде. Тебе не показалось бы странным говорить о человеке “на другом конце провода”?

ПАТ: Пожалуй, нет, хотя существование человека на другом конце провода было бы допущением.

СЭНДИ: Да, но ты вряд ли отправилась бы проверять это лично. Ты готова признать человечность, передающуюся по этим, довольно-таки необычным каналам. Тебе не надо видеть тело этого человека и слышать его голос; тебе достаточно абстрактной манифестации, некоего кода. Вот к чему я веду: чтобы “увидеть” человеческое существо за точками и тире, ты должна быть готова произвести некую расшифровку, некую интерпретацию. Здесь задействовано не прямое восприятие, а косвенное. Тебе придется снять несколько оболочек, пока ты дойдешь до спрятанной под ними действительности. Ты надеваешь “очки радиолюбителя”, чтобы “увидеть” человека за точками и тире. То же самое приложимо и к имитации урагана! Ты не видишь, как от него темнеет в компьютерной лаборатории — тебе приходится декодировать машинную память, надевать специальные “очки для расшифровки памяти”. Тогда и только тогда ты увидишь ураган!

ПАТ: Ха-ха! Кто кого теперь дурачит? В случае коротковолнового радио, где-то там на островах Фиджи или где-нибудь еще, находится настоящий человек. Моя дешифровка просто показывает мне, что этот человек существует — это похоже на то, как по тени я могу догадаться о реальном предмете, который ее отбрасывает. Но никто не спутает тень с самим объектом! А в случае урагана, никакого настоящего урагана, поведение которого повторяет компьютер, за сценой нет. Здесь мы имеем дело только с ураганом-тенью, в отсутствие настоящего урагана. Я отказываюсь принимать тени за реальность.

СЭНДИ: Ну хорошо, не стану больше спорить. Я готова согласиться с тем, что глупо называть имитацию урагана настоящим ураганом. Однако это все же не настолько глупо, как может показаться с первого взгляда. А уж когда мы вместо имитации урагана говорим об имитации мыслей, мы имеем дело совсем с другой ситуацией.

ПАТ: Не понимаю, почему. Шквал мыслей, по-моему, что-то вроде мысленного урагана. Нет, серьезно, тебе придется постараться, чтобы меня в этом убедить.

СЭНДИ: Никто не может точно, во всех деталях, определить, что такое ураган. Существует некая абстрактная схема, по которой развиваются некоторые виды шторма — их мы называем ураганами. Однако невозможно провести четкую границу между ураганами и другими типами штормовых явлений — торнадо, циклоны, тайфуны, смерчи… А Великое Красное пятно на Юпитере — это ураган или нет? А пятна на солнце? Может ли возникнуть ураган в аэродинамической трубе? А в пробирке? При достаточном воображении можно даже включить в понятие “урагана” микроскопические шторма, возникающие на поверхности нейтронных звезд.

КРИС: Знаете, все это не так уж далеко от действительности. На самом деле, понятие “землетрясение” теперь используется и в отношении нейтронных звезд. Астрофизики говорят, что в крохотных сбоях в периодах излучения пульсаров виноваты “звездотрясения”, случающиеся на поверхности нейтронных звезд.

СЭНДИ: Да, я вспомнила, что слышала об этом. Мне тогда показалась очень странной сама идея “звездотрясения” — нечто вроде сюрреалистического дрожания на сюрреалистической поверхности.

КРИС: Представь себе — тектонические плиты на гигантской вращающейся сфере, состоящей из атомных ядер?

СЭНДИ: Фантастическая идея! Значит, теперь звездотрясения и землетрясения могут быть объединены в новую, более абстрактную категорию. Именно так наука расширяет известные понятия, уводя их все дальше от повседневного опыта, но сохраняя суть неизменной. Классический пример этого — система чисел. К положительным числам постепенно добавились отрицательные, рациональные, действительные, комплексные — и так далее.

ПАТ: Да, я понимаю. В биологии есть множество примеров близких отношений, которые установлены довольно абстрактным путем. Чтобы определить, к какому семейству относится тот или иной вид, зачастую приходится опираться на некое абстрактное сходство на том или ином уровне. Когда система классификации основана на абстрактных типах сходства, самые непохожие явления могут оказаться “в одном классе”, хотя на первый взгляд у них множество различий. Так что я, кажется, начинаю понимать, как имитация урагана может, в некоем странном смысле, быть для тебя настоящим ураганом.

КРИС: Может быть, здесь расширяется не понятие “ураган”, а понятие “быть”!

ПАТ: Что ты имеешь в виду?

КРИС: Если Тьюринг мог употребить в расширенном смысле глагол “думать”, то почему бы мне не употребить так же и глагол “быть”? Я хочу сказать, что когда имитированные объекты нарочно принимаются за настоящие, кто-то при этом вовсю занимается философским лапшевешанием. Все это гораздо серьезнее, чем расширение нескольких понятий вроде “ураганов”.

СЭНДИ: Мне нравится твоя мысль насчет расширения значения слова “быть”, но по-моему, ты зря оскорбляешь философов. Так или иначе, если ты не возражаешь, я хочу сказать еще кое-что по поводу симуляции ураганов перед тем, как перейти к имитации мышления. Представь себе, что ты имеешь дело с необычно детальной имитацией, вплоть до каждого отдельного атома (да, да, я знаю, что на практике это невозможно). Надеюсь, что тогда ты согласишься с тем, что такая имитация полностью разделяет с настоящим ураганом абстрактную структуру, определяющую, что есть ураган. Назовешь ли ты такую имитацию “ураганом”?

ПАТ: Я думала, ты уже перестала утверждать, что имитация может быть тождественна настоящему явлению!

СЭНДИ: Я тоже так думала — но из-за всех этих примеров мне пришлось вернуться к первоначальной точке зрения. Ну хорошо, позволь мне отступить и перейти, как я и обещала, к мышлению — в конце концов, именно оно — главная тема нашей беседы. Мысли, еще в большей степени, нежели ураганы, являются абстрактной структурой, описывающей некие сложные события. Эти события происходят в среде, именуемой мозгом. Мысль может родиться в любом из нескольких миллиардов мозгов. Все эти мозги очень разные, и, тем не менее, все они позволяют существование “одного и того же явления” — мышления. Следовательно, здесь важна не среда, но некая абстрактная структура. Та же самая структура может возникнуть в голове любого человека, так что никто не может утверждать, что его мышление — более настоящее, чем мышление любого другого человека. Теперь представьте себе, что подобная структура возникает в отличной от мозга среде. Можете ли вы отрицать, что мы имеем дело с мышлением?

ПАТ: Может быть, и нет, но ты подменяешь один вопрос другим. Теперь возникает вопрос, каким образом можно установить, что там возникает “подобная структура”?

СЭНДИ: Прелесть теста Тьюринга как раз в том, что он говорит, нам, когда это происходит.

КРИС: Я с этим не согласен. Откуда вы узнаете, что внутри компьютера происходит то же, что и внутри моего мозга? Только лишь из того, что он отвечает на вопросы, подобно мне? Вы видите только то, что снаружи!

СЭНДИ: Но откуда ты знаешь, что когда я с тобой разговариваю, внутри у меня происходят процессы, подобные тому, что ты называешь “мышлением”? Тест Тьюринга — это гениальный “зонд”, подобный ускорителю частиц в физике. Думаю, что тебе понравится эта аналогия. В физике, чтобы узнать, что происходит на атомном или субатомном уровне, поскольку вы не можете это увидеть, вам приходится бомбардировать ваш объект ускоренными частицами и наблюдать, как они себя ведут после столкновения. По результатам наблюдения вы делаете заключения о внутренней природе объекта. Тест Тьюринга применяет ту же идею к интеллекту. Интеллект в нем рассматривается как “объект”, невидимый глазом; структура этого объекта может быть вычислена абстрактно. “Бомбардируя” вопросами разум-объект, мы узнаем нечто о том, что происходит у него внутри, так же, как в физике.

КРИС: Говоря точнее, мы можем строить гипотезы о том, какие внутренние структуры ответственны за наблюдаемое поведение объекта. Мы не знаем в точности, существуют ли эти структуры.

СЭНДИ: Погоди — ты что же, утверждаешь, что атомные ядра — всего лишь гипотетические объекты? Но ведь их существование (или я должна говорить “гипотетическое существование”?) было доказано (или “предположительно установлено”?) поведением частиц, которые сталкивались с атомами?

КРИС: Мне кажется, что физические системы намного проще разума, и поэтому для них больше вероятность того, что наши умозаключения окажутся верными.

СЭНДИ: Зато там гораздо труднее осуществлять эксперименты и интерпретировать результаты. В тесте Тьюринга можно за час провести несколько сложных экспериментов. Я утверждаю, что мы считаем других людей разумными просто потому, что постоянно за ними наблюдаем и делаем выводы — а это тоже нечто вроде теста Тьюринга.

ПАТ: Может, это и так, но только приблизительно, поскольку это все же нечто большее, чем беседа с людьми по телетайпу. Мы видим, что у других людей есть тела, мы наблюдаем за выражением их лиц — мы видим, что они тоже люди, и заключаем, что они думают.

СЭНДИ: По-моему, это весьма антропоцентрический взгляд на мышление. Значит, ты скорее признаешь способность мыслить у манекена в витрине, чем у прекрасно запрограммированного компьютера, только лишь потому, что манекен больше похож на человека?

ПАТ: Разумеется, что мне понадобится большее, чем простое физическое сходство с человеком, прежде чем я решу, что некое существо способно думать. Но именно это органическое качество, общность происхождения, добавляет значительную долю вероятности.

СЭНДИ: Здесь я с тобой не согласна — по-моему, это просто шовинизм. Мне кажется, что главное здесь — не телесное, органическое и химическое сходство, а сходство внутренней, организационной структуры, программы. Вопрос о том, может ли некое существо думать, сводится для меня к вопросу о том, может ли его внутренняя организация быть описана определенным образом, и я считаю, что тест Тьюринга позволяет определить наличие или отсутствие этой организации. Мне кажется, что твоя зависимость от моего телесного облика как свидетельства того, что я — мыслящее существо, довольно поверхностна. Тест Тьюринга, на мой взгляд, заглядывает гораздо глубже физической оболочки.

ПАТ: Постой, ты недооцениваешь мои слова. Я опираюсь в своем заключении не только на форму тела, но и на идею об общем происхождении. И ты, и я произошли от молекул ДНК, и мне это кажется очень важным. Я бы сказала, что внешняя телесная форма показывает глубокую общность биологической истории — и именно эта глубина придает вероятность тому, что обладатель подобного тела может мыслить.

СЭНДИ: Все это только косвенные доказательства. Наверняка, ты хочешь иметь и прямые! А для этого тебе как раз понадобится тест Тьюринга. Я полагаю, что это единственный способ определить, принадлежит ли существо к классу думающих.

КРИС: Но ты можешь и ошибиться — ведь экзаменатор иногда принимает мужчину за женщину.

СЭНДИ: Я признаю, что ошибка возможна, если я проведу тест слишком торопливо или поверхностно. Но я могу спрашивать и о самых глубоких и важных вещах, какие только могу вообразить.

КРИС: Мне бы хотелось узнать, может ли программа понимать шутки. Вот это будет настоящий тест на разумность.

СЭНДИ: Я согласна. Юмор — суровое испытание для предположительно разумной машины; но таким же важным критерием, если не важнее, мне кажется ее эмоциональная реакция. Я спросила бы машину о том, что она чувствует, слушая музыку и читая литературные произведения, особенно мои любимые.

КРИС: А что, если она ответит: “Я не знаю этого произведения” или даже “Музыка меня не интересует”? Что, если она будет избегать любого упоминания об эмоциях?

СЭНДИ: Это покажется мне подозрительным. Любое постоянное увиливание от определенных тем вызовет во мне сомнение насчет того, что я имею дело с мыслящим существом.

КРИС: Но почему? Разве не может быть, что ты имеешь дело с мыслящим, но не эмоциональным существом?

СЭНДИ: Это важный момент. Я просто не могу поверить, что эмоции могут быть отделены от мыслей. Иными словами, мне кажется, что эмоции — это побочный продукт способности к мышлению. Сама природа мышления предполагает наличие эмоций.

КРИС: А если ты ошибаешься? Что, если бы я сконструировал машину, способную думать, но не умеющую чувствовать? Разумность такой машины могла бы остаться незамеченной, поскольку она не прошла бы твой вариант теста.

СЭНДИ: Я бы хотела, чтобы ты показал мне, где граница между эмоциональными и неэмоциональными вопросами. Ты мог бы спросить о содержании какого-нибудь великого романа. Для ответа понадобилось бы понимание человеческих чувств. Это мышление или холодный расчет? Ты мог бы спросить о выборе слов. Чтобы ответить, собеседник должен понимать ассоциативный ряд этих слов. Тьюринг приводит подобные примеры в своей статье. Ты мог бы попросить совета в сложной романтической коллизии. Собеседник должен понимать мотивы человеческих действий и их корни. Если бы машина не смогла ответить на подобные вопросы, вряд ли я бы сказала, что она может мыслить. По моему мнению, способность думать, чувствовать и сознавать — разные стороны одного и того же явления. Ни одна из них не может присутствовать отдельно от других.

КРИС: Но почему мы не можем построить машину, не способную чувствовать, но тем не менее умеющую мыслить и принимать сложные решения? Я не вижу здесь никакого противоречия.

СЭНДИ: А я вижу! Наверное, когда ты это говоришь, ты представляешь себе металлическую прямоугольную машину в комнате с кондиционером — твердый, угловатый, холодный предмет с тысячами цветных проводочков внутри. Твоя машина неподвижно стоит на полу, гудит и крутит свои пленки. Такая машина может сыграть хорошую партию в шахматы — я признаю, что для этого нужна способность принимать решения. Но я никогда не назову такую машину сознательной.

КРИС: Отчего же? Разве по мнению механистов машина, играющая в шахматы, не обладает рудиментарным сознанием?

СЭНДИ: Только не по мнению этого механиста! Я считаю, что сознание должно возникать из определенной структуры — правда, мы пока еще не можем точно ее описать. Но я верю, что со временем мы научимся ее понимать. По-моему, сознание — это некая внутренняя модель внешнего мира и способность отвечать на стимулы внешней реальности при помощи этой внутренней модели. Кроме того, необходимо, чтобы эта разумная машина включала бы хорошо развитую и достаточно гибкую модель самой себя. И именно это и есть камень преткновения для всех существующих программ, включая шахматные.

КРИС: Но разве программы-шахматисты, рассчитывая последствия того или иного хода, не говорят сами себе: “Если ты пойдешь сюда, то я отвечу так, а если сюда, то я могу сделать вот так…”? Разве это в каком-то смысле не модель самого себя?

СЭНДИ: Я бы так не сказала. Или, если хочешь, это очень ограниченная модель, понимающая себя только в самом узком смысле. Ведь шахматная программа не знает, зачем играет в шахматы, не сознает, что она — программа, что она находится в компьютере, что играет против человека и так далее. Она не знает, что такое победа или поражение, и—

ПАТ: Откуда ты знаешь, что она этого не понимает? Почему ты вообразила, что можешь рассуждать о том, что чувствует и знает шахматная программа?

СЭНДИ: Брось, пожалуйста — мы все знаем, что некоторые вещи ничего не думают и не чувствуют. Брошенный камень ничего не знает о параболах, а вентилятор не имеет понятия о воздухе. Верно, я не могу этого доказать, но здесь мы почти соприкасаемся с вопросом веры.

ПАТ: Это мне напоминает об одной даоистской истории, которую я недавно читала. Два мудреца стоят на мосту над бурной рекой. Один говорит другому: “Хотел бы я быть рыбой. Они так счастливы!” Второй отвечает: “Откуда ты знаешь, счастливы ли рыбы? Ты же не рыба!” Первый мудрец возражает: “Но ты — не я, так что откуда ты знаешь, знаю ли я, как чувствует себя рыба?”

СЭНДИ: Превосходно! Все эти разговоры о сознании должны иметь некоторые ограничения. Иначе придется либо становиться солипсистом и утверждать “Я — единственное думающее существо во вселенной!”, либо уверовать в то, что все предметы во вселенной обладают сознанием.

ПАТ: Может быть, так оно и есть?

СЭНДИ: Если ты собираешься присоединиться к тем, кто утверждает, что камни и даже элементарные частицы обладают сознанием, то мне с тобой не по дороге. Я не могу понять подобного мистицизма. Что же до шахматных программ, то я знаю, как они работают, и могу тебя заверить, что сознанием там и не пахнет!

ПАТ: Почему?

СЭНДИ: Потому что они имеют только отдаленное понятие о целях шахматной игры. Понятие “игра” превращается в механический акт сравнения множества чисел и выбора наибольшего числа снова и снова. Шахматная программа не испытывает стыда за поражение или гордости от победы. Ее представление о самой себе чрезвычайно ограничено. Она делает минимум возможного — играет в шахматы, и ничего более. Интересно, что тем не менее мы продолжаем говорить о “желаниях” шахматного компьютера. Мы говорим: “Он хочет защитить своего короля, поместив его за пешечным заграждением”, или “Ему нравится развивать ладей очень рано” или “Он думает, что я не вижу этой “вилки”!”

ПАТ: Мы делаем то же самое с насекомыми. Увидим где-нибудь одинокого муравья и говорим: “Он пытается добраться домой” или “Он хочет дотащить эту мертвую осу до муравейника”. Говоря о любом животном, мы используем слова, указывающие на эмоции, но при этом мы не уверены, насколько данное животное способно чувствовать. Я могу запросто сказать о коте или собаке, что они грустные или счастливые, имеют желания и убеждения и так далее, но я не думаю, что их грусть или счастье так же глубоки, как человеческие.

СЭНДИ: Но тем не менее ты не считаешь, что это только имитация чувств?

ПАТ: Разумеется, нет. Я думаю, что эти чувства вполне настоящие.

СЭНДИ: Употребления таких телеологических, менталистских терминов трудно избежать. Думаю, что они имеют смысл, но мы не должны использовать их без разбору. У них просто нет такого глубокого значения в приложении к сегодняшним шахматным компьютерам, как в приложении к людям.

КРИС: До меня все еще не дошло, почему разум должен обязательно идти рука об руку с эмоциями. Почему вы не можете представить себе разум, который только вычисляет, но при этом ничего не чувствует?

СЭНДИ: На это у меня имеется целых два ответа. Во-первых, любой разум должен иметь мотивацию. Что бы ни утверждали некоторые люди, машина не может думать более “объективно”, чем человек. Когда машина видит какую-то сцену, она должна сосредоточиться на определенных ее аспектах и разложить их на имеющиеся у нее категории, точно так же, как сделал бы человек — а это значит, что она заметит какие-то вещи и упустит из виду другие. Это происходит на любом уровне обработки информации.

ПАТ: Что ты имеешь в виду?

СЭНДИ: Возьмем, например, меня. Ты можешь подумать, что я просто отпускаю некие интеллектуальные замечания и мне для этого не нужны эмоции. Но почему эти замечания так важны для меня? Почему я так напираю на слово “важны”? Потому что мои эмоции тоже участвуют в этом разговоре! Люди говорят друг с другом из убеждения, а не благодаря чисто механическим рефлексам. Даже самая интеллектуальная беседа воодушевляется скрытыми страстями. В любой беседе есть эмоциональные подводные течения — говорящие хотят, чтобы их внимательно слушали, понимали и уважали за то, что они говорят.

ПАТ: Мне кажется, что ты хочешь сказать только то, что люди должны быть заинтересованы в предмете беседы, иначе разговор у них не получится.

СЭНДИ: Точно! Я бы не стала ни с кем разговар