Эксперимент: беседа с компьютером

 

Зайдите на сайт www.universeinsideyou.com, выберите раздел Experiments и в нем тему Talking to computers. Для начала попробуйте свои силы на программе Eliza. Это одна из самых старых программ для поддержания беседы. Она была написана еще в середине 1960‑х годов. Компьютер в данном случае выступает в роли психотерапевта, ведущего беседу с пациентом, поэтому часто повторяет сказанное вами. Его довольно легко вывести на чистую воду, но если вы не будете слишком умничать, он весьма уверенно поддержит разговор.

Затем оцените программу Cleverbot. Это одна из современных программ, которые получили название чат‑ботов. Даже Cleverbot можно относительно легко загнать в тупик, но у него по сравнению с Eliza припасено значительно больше трюков, которые позволяют успешно прикидываться человеком.

В последнее время было создано несколько программ, с помощью которых компьютер может достаточно убедительно выдавать себя в беседе за человека.

На Техническом фестивале 2011 года в Гувахати (Индия) Cleverbot сумел одержать верх в тесте Тьюринга. По крайней мере, так заявляли его организаторы. В эксперименте приняли участие 30 добровольцев, половина из которых беседовала с человеком, а половина – с чат‑ботом. Затем вся следившая за диалогом аудитория в количестве 1334 человек, включая и добровольцев, методом голосования вынесла вердикт, кто из собеседников был человеком. Пятьдесят девять процентов сочли, что Cleverbot – человек, что и дало повод организаторам (и журналу «New Scientist») сделать заявление, что программа прошла тест Тьюринга.

Для сравнения: человека признали человеком 63 процента голосовавших. Должно быть, сам экспериментатор был немало обескуражен тем, что значительная часть публики приняла его за компьютер. Правда, я не считаю полученный результат однозначным успехом. Беседа длилась только четыре минуты, и это давало создателям чат‑бота возможность использовать различные тактические уловки, которые не сработали бы в ходе продолжительного разговора, который имел в виду Тьюринг.

Кроме того, меня настораживает место проведения эксперимента. В отчете не было указано, сколько участников владеют английским языком как родным. Я подозреваю, что многие из голосовавших не были в достаточной степени знакомы с английскими идиомами, чтобы с уверенностью судить, кто был человеком, а кто – компьютером.

 

Смогли бы вы убить, чтобы спасти чью‑то жизнь?

 

Но одно дело – умение поддерживать беседу, и совсем другое – мораль. Трудно представить себе компьютерную программу, которая была бы способна решать этические проблемы. В конце концов, мы и сами имеем не слишком четкое представление о собственной этике. В теории все может быть абсолютно ясно, но, когда дело доходит до практики, зачастую мы принимаем решения, которые потом трудно оправдать. Приведу хорошо известный пример.

Представьте себе, что вы, находясь в железнодорожной диспетчерской, замечаете неуправляемый поезд. Машинист по какой‑то причине выбыл из строя, и остановить состав нет никакой возможности. Вскоре поезд подойдет к стрелке, и у вас появится возможность направить его по одному из двух путей. Если вы ничего не предпримете, он пойдет по пути А и убьет двадцать человек, которые собрались в стоящем на путях вагоне и празднуют успешное окончание благотворительной кампании по сбору средств на развитие железной дороги. Если вы переключите стрелку, поезд свернет на путь Б и задавит путевого обходчика, который убирает мусор с путей.

Давайте взглянем правде в глаза: какое бы решение вы ни приняли, оно будет означать смерть ничего не подозревающих людей, только в одном случае это будет один человек, а в другом – двадцать. Как вы поступите? Примите решение, прежде чем продолжить чтение.

А теперь давайте изменим ситуацию. Вы стоите на мосту над железнодорожными путями. По ним движется неуправляемый поезд. Если он не свернет на стрелке, это будет, как и в первом случае, означать смерть двадцати ни в чем не повинных людей, если же стрелку удастся переключить, то он уйдет на свободный путь, и никто не пострадает. У вас нет возможности быстро добраться до стрелки, но вы знаете, что прямо под мостом находится пневматическое устройство для ее переключения. Чтобы оно сработало, необходимо сбросить на него какой‑то предмет вдвое тяжелее вас. И тут вы замечаете, что на перилах моста сидит, беспечно свесив ноги, очень полный человек…

Если вы столкнете его с моста, он, конечно, погибнет, но зато вы сможете спасти жизни двадцати других людей. Если вы ничего не предпримете, они умрут. Как вы поступите?

Большинство людей в первой ситуации предпочтут нажать на кнопку, увести поезд с основного пути и убить одного человека вместо двадцати. Но вот во второй ситуации мало кто решается сбросить человека с моста, хотя соотношение потенциальных жертв то же самое.

Психологи объясняют, что с этической точки зрения проще убить человека, нажав на кнопку, чем сделать это своими руками, хотя в этом, казалось бы, отсутствует логика. Примерно такой же сдвиг в мышлении произошел, когда развитие технологии позволило убивать противника на войне дистанционно, с помощью пуль и снарядов, а не в рукопашной схватке, как раньше. Правда, лично я считаю, что приведенный мысленный эксперимент не лишен недостатков.

Дело в том, что описанные сценарии имеют разную степень вероятности. Первая ситуация вполне могла бы произойти в реальности. Перед диспетчером в этом случае действительно стоял бы выбор: убить одного человека или двадцать. Но вот история с пневматическим переключателем стрелки, который срабатывает от падения предмета, вес которого вдвое превышает ваш собственный, кажется мне совсем уж невероятной, особенно если учесть, что на перилах вдруг оказался толстяк и вы даже можете оценить, сколько он весит. Оригинальная версия этого психологического теста еще более невероятна. В ней на перилах сидит настолько толстый человек, что он способен затормозить поезд собственным весом. Похоже, психологи, составлявшие тест, явно не в ладах с физикой.

Более того, психологи забывают о факторе случайности. В первой ситуации вы практически на 100 процентов уверены, что если нажать кнопку, то стрелка переключится и поезд уйдет на другой путь. Во второй ситуации, даже если вы знаете, как работает пневматический переключатель, все может пойти совсем не так, как задумано. Например, человек, которого вы столкнете, упадет мимо переключателя. Высокая степень неопределенности сильно затрудняет процесс принятия решения, даже если ваши нравственные нормы позволяют спасти двадцать человек, убив одного.

 

Доверие и ультиматум

 

Еще один эксперимент, который вы можете провести самостоятельно, позволяет разобраться в том, насколько мы доверяем людям и как находим баланс между логикой и эмоциями в процессе принятия решений (это еще одна область, в которой мы отличаемся от компьютера). Нам постоянно приходится принимать какие‑то решения, и данный эксперимент в игровой форме помогает понять, что при этом происходит (а все далеко не так просто, как кажется). Игра называется «Ультиматум».

Эксперимент «Ультиматум»

Вы можете провести этот эксперимент в кругу друзей или даже незнакомых людей в баре. Вам понадобятся два человека и некоторая сумма денег, с которой вы готовы расстаться ради опыта.

Объясните участникам суть эксперимента. Каждый из них должен будет принять решение по поводу денег. Решения не допускают никаких предварительных обсуждений и являются окончательными. Положите деньги на стол между участниками, чтобы они видели, какова сумма, и знали, что игра ведется без обмана. Участники должны разделить деньги между собой.

Первый участник принимает решение, сколько он заберет себе и сколько отдаст напарнику. Он вправе делать что угодно: поделить их пополам или в какой‑то другой пропорции, а также забрать все себе (следует заранее разменять деньги на мелкие купюры или монеты, чтобы их было удобнее делить). Задача первого участника состоит лишь в том, чтобы без всяких объяснений сообщить о принятом решении. Второй участник может сказать «да», и в этом случае деньги делятся так, как объявлено. Он может также сказать «нет», и тогда никто ничего не получает.

Этот эксперимент проводили много раз и в самой разной обстановке. Самым логичным для второго участника было бы согласиться, чтобы получить хоть что‑нибудь. Даже если речь идет всего об одном пенни, это все же лучше, чем ничего. На практике же второй участник зачастую говорит «нет», если считает, что деньги, по его мнению, поделены не по справедливости.

Что же считать справедливым дележом? В разных культурах этот вопрос решается по‑разному. Кто‑то соглашается на 15 процентов, кому‑то нужно не менее пятидесяти. В Европе и США чаще всего говорят «да», если доля превышает 30 процентов.

Этот эксперимент демонстрирует, что честность и справедливость тоже чего‑то стоят. Мы готовы даже потерять деньги, лишь бы все было по‑честному. Если бы человеческая логика оперировала только экономическими категориями, то такой подход не имел бы смысла. Вы бы всегда брали деньги. Но ваш мозг принимает решения, основываясь на целом комплексе факторов, а не только на финансовых соображениях.

Я не утверждаю, что финансовые вопросы не влияют на сложный процесс оценки факторов при принятии решений. Если бы, к примеру, в эту игру решил сыграть миллиардер и выложил на стол 10 миллионов фунтов, то, я думаю, вы бы с радостью согласились даже на пять процентов – 500 тысяч фунтов. Если человек не обладает сказочным богатством, то не откажется от этих денег просто ради того, чтобы что‑то доказать сопернику.

Интересно, на какую наименьшую сумму вы согласились бы в подобных обстоятельствах? Где та граница между 500 тысячами и одним фунтом, которая заставила бы вас сказать «нет»?

 

Взвешивание вариантов

 

Данная игра наглядно демонстрирует, каким образом мозг выполняет свою функцию принятия решений. В ходе этого процесса оцениваются и взвешиваются различные компоненты решения. Чем более весомым оказывается тот или иной фактор, тем сильнее он влияет на решение. Затем все оценки складываются, и вариант решения («да» или «нет»), обладающий самым большим весом, побеждает. В игре «Ультиматум» можно выделить следующие факторы, подлежащие оценке.

• Велика ли общая сумма?

• Сколько денег у вас есть на данный момент и сколько вам требуется? (Другими словами, насколько важна предложенная сумма для вашей жизни?)

• Справедливо ли ваш партнер разделил деньги?

• Не шутка ли это? (Вы действительно получите деньги или это просто психологический эксперимент?)

• Какие отношения связывают вас с партнером по игре?

Если бы эту задачу предстояло решать компьютеру, он просто дал бы каждому фактору числовые оценки и в ходе сравнения оперировал бы числами. Мозг же учитывает силу электрических импульсов и концентрацию химических веществ, хотя, в принципе, это почти одно и то же.

 

Все ли факторы учтены?

 

Обычно мы считаем, что принятые нами решения логичны. Это, конечно, не компьютерная логика, которая заставляет соглашаться на любую предложенную в игре сумму, а человеческая, которая учитывает характер взаимоотношений и оперирует не только суммами, но и такими понятиями, как доверие и справедливость. Если учтены все факторы, то большинство людей, скорее всего, примут обоснованное и логичное решение. Но проблема в том, что можно упустить из виду какие‑то важные обстоятельства, которые имеют большое значение для решения. В результате человек может прийти к решению, которое противоречит его долгосрочным интересам, так как в ходе оценки всех обстоятельств придал больший вес тем, которые сулят сиюминутные удовольствия.

Такое происходит постоянно. Иногда решение несущественно и не имеет далеко идущих последствий (например, съесть или не съесть аппетитный, но вредный фастфуд или шоколадную конфету), но иногда может угрожать здоровью или даже жизни, если дело касается приема тяжелых наркотиков или участия в какой‑то очень рискованной авантюре. Человек не слишком силен в оценке долговременных последствий принимаемых им решений. Мы можем догадываться или даже очень хорошо осознавать, какими могут быть конечные результаты, но зачастую сиюминутная выгода перевешивает долгосрочные преимущества.

Экономисты очень слабы в оценке и понимании факторов, влияющих на принятие людьми решений. Они ожидают, что все будут вести себя рационально, то есть исходить из долгосрочной финансовой выгоды. Но такой подход по меньшей мере наивен, что и доказали последние события в мировой экономике.

 

Это могли бы быть и вы

 

Возьмем такой простой пример, как лотерея. Ваши шансы на крупный выигрыш чрезвычайно малы. Они составляют один против нескольких миллионов (если точнее, то против 13 983 816, как это было в одном из последних тиражей популярной в Великобритании лотереи). Это примерно соответствует вероятности погибнуть в авиационной катастрофе или от удара молнии. И все же множество людей каждую неделю покупают лотерейные билеты. Почему?

Отчасти это объясняется нашим незнанием теории вероятности. Представьте себе, что в ходе очередного тиража выпадают цифры 1, 2, 3, 4, 5, 6. Удивлению людей просто не было бы предела. В лучшем случае они предположили бы, что лототрон испортился, а в худшем заподозрили бы жульничество. Посыпались бы запросы в парламент. А между тем подобная последовательность чисел имеет точно такую же вероятность, как, к примеру, 29, 9, 15, 39, 17, 30.

Просто когда мы видим, что из лототрона один за другим выпадают шары с последовательными номерами, то понимаем, что такого просто не может быть. Подобная случайность не укладывается в голове, не отягощенной математическим образованием. Тем не менее математики, ученые и экономисты, которые постоянно разглагольствуют о тупости народных масс, участвующих в лотерее, сами не учитывают одного очень важного момента. Они плохо представляют себе модель принятия решений, которая используется людьми.

Лично я считаю, что достаточно хорошо знаю теорию вероятности, но все же покупаю лотерейные билеты. Конечно, я контролирую себя и трачу на эти цели лишь очень незначительные суммы из месячного семейного бюджета, тем не менее играю. Зачем я это делаю? Все дело в размере потенциального выигрыша. Это обстоятельство экономисты традиционно упускают из виду.

Если сумма денег, которую я вкладываю в покупку билетов, незначительна (например, соответствует той, что я трачу в неделю на кофе), то я с легкостью готов смириться с ее практически неизбежной потерей, так как существует возможность (хоть и крайне малая) сорвать крупный куш. Кроме того, мое поведение подкрепляется тем, что при таком подходе я каждые несколько месяцев все же выигрываю какие‑то деньги. Пусть даже мелочь, какие‑то 3 или 10 фунтов, но каждый выигрыш доставляет мне несколько минут удовольствия.

Один из важных факторов, который придает решению об участии в лотерее некоторую рациональность, заключается в том, что я совершенно забываю о покупке билета. Я не помню, какие номера в нем зачеркнул. Я не сижу в нервном ожидании, наблюдая за тем, как проходит тираж. Я вспоминаю обо всем этом, только когда получаю из Национального управления лотерей СМС с просьбой проверить свой билет. Я понимаю, что при покупке билета мои деньги уходят безвозвратно, но точно так же они уходят и тогда, когда я пью кофе. Меня это не беспокоит, поэтому любой выигрыш оборачивается чистой радостью, поскольку я не связываю его с понесенными расходами. В то же время я могу честно признаться, что единственная «радость», которая ожидает меня после кофе, выпитого в «Starbucks», – это боль в желудке (поверьте, я вовсе не пытаюсь бросить тень на «Starbucks», просто мой желудок плохо переносит кофе).

 

Экономисты не правы

 

Если бы мы принимали решения на основе чисто финансовых расчетов, это означало бы полное игнорирование такой части нашей жизни, как развлечения. Подобный подход основан только на экономической выгоде. Если бы вы постоянно использовали его в жизни, то всегда тратили бы деньги только на то, что сулит какие‑то доходы. Разумеется, вам приходилось бы покупать еду, чтобы выжить, но вы выбирали бы самые дешевые продукты, содержащие лишь необходимый набор питательных веществ. Вы бы никогда не ходили в кино, театры и на концерты. Вы не покупали бы подарки своим знакомым и близким и не радовали бы себя всякими безделушками. Вы бы никогда не ужинали в ресторанах, потому что то же самое можно значительно дешевле приготовить дома. А нужна ли такая жизнь, построенная на чистой экономике?

 

Вы сделали это сознательно?

 

Вы уже успели убедиться, что человек принимает решения, основываясь на сложном комплексе факторов, и при этом нередко отдает предпочтение сиюминутной выгоде. Но в целом вы продолжаете считать свои решения осознанными. Ведь их в конечном счете принимаете вы, ваша голова, ваш разум.

Но когда вы только задумываете какое‑то действие, то где именно рождается эта «задумка»? Где находится та часть вашего «я», которая принимает решение?

Большинство людей, не задумываясь, укажут себе на лоб. В их представлении там сидит какой‑то маленький человечек, управляющий всем телом. Это, конечно, преувеличение. Вы точно знаете, что никакого человечка там нет и никто не дергает за рычаги, но все же считаете, что ваше сознание ведет некую независимую жизнь, давая команды организму и указывая, что именно надо делать.

Однако такое упрощенное представление о сознании, живущем в голове и с помощью воображаемых рычагов управляющем телом, в корне неверно. Современная наука, изучающая мозг, говорит о том, что подавляющая часть ваших действий на самом деле исходит из подсознания. Да, решение принимаете в конечном счете вы сами, но не ваше сознание.

Давайте представим себе, что вы сидите на лужайке перед домом, а рядом с вами лежит мяч. Вы берете мяч и бросаете его. Что при этом происходит у вас в мозге? Вы наверняка предполагаете, что сначала в вашем сознании рождается мысль: «Брошу‑ка я мяч». Этот сигнал распространяется по нервной системе, и ваша рука выполняет действие.

Активность мозга сопровождается увеличением кровотока в нем. Прослеживая движение крови с помощью функциональной магнитно‑резонансной томографии (ФМРТ), можно увидеть, в какой именно момент и в каком участке мозга принимается решение. Как правило, это происходит в подсознании примерно за секунду до того, как рука начинает двигаться. А вот сознание включается в действие на треть секунды позже. Итак, прежде, чем в вашем сознании родится мысль о том, чтобы бросить мяч, подсознание уже знает, что вы собираетесь сделать. Именно оно запускает этот процесс, и только после этого вы осознаете, какие действия будете совершать.

Все это звучит странно и даже пугающе. Выходит, мы принимаем решение еще до того, как осознаем его. Создается впечатление, что человек – это робот, лишенный собственной воли. Однако в действительности все намного сложнее. Во‑первых, у вашего сознания есть время, чтобы отменить задуманное действие. Даже если у вас возникло внутреннее побуждение сделать что‑то такое, чего не хочется или не стоит делать, сознание может остановить этот процесс. Но самое главное заключается в том, что первоначальное решение продиктовано все же не какой‑то чуждой внешней силой, а вами самими. Просто вы этого не осознаете.

Тем не менее тот факт, что решение изначально принимается в подсознании, демонстрирует, насколько непростые процессы происходят в мозге и как трудно бывает порой понять, совершил ли человек какое‑то действие сознательно или неосознанно (и нужно ли его наказывать или поощрять за это).