Им не понять сущности человеческих переживаний

Эльдар Шафир

Преподаватель психологии и связей с общественностью, Принстонский университет; автор, совместно с Сендилом Муллайнатаном, книги «Дефицит: Почему так плохо иметь слишком мало» (Scarcity: Why Having Too Little Means So Much)

Мышление существует во множестве форм, от решения задач по оптимизации чего-либо и игры в шахматы до ведения ученой беседы или сочинения прекрасной музыки. Но мне интересно: что машины, которые предположительно мыслят, могут думать о вещах, в сущности, человеческих? А ведь таких вещей много.

Рассмотрим трогательное описание из «Ради чего я живу» Бертрана Рассела:

Всю мою жизнь пронизывали три страсти, простые, но неодолимые в своем могуществе: жажда любви, тяга к знанию и мучительное сочувствие к страданиям человечества. Как могучие ветры, носили они меня над пучиною боли, увлекая из стороны в сторону и порой доводя до отчаяния [70].

Хотя Рассел был прославленным мыслителем, то, что он описывает, так или иначе знакомо всем нам. Но что из этого поймет машина? Может ли она чувствовать «жажду любви» или «мучительное сочувствие к страданиям человечества»? Может ли ее «носить над пучиною боли из стороны в сторону до отчаяния»?

Если мы примем некую компьютерную метафору разума (я принимаю), то все сантименты должны в конечном счете быть результатами физических процессов, которые в теории могут происходить в машине. Но сами эти вещи часто очень человеческие. Если мы согласимся, что мужчины не до конца понимают материнскую любовь; что тому, кто всегда ел вдоволь, не понять мук голода; что свободному не понять, что значит быть в заключении, – тогда машины, независимо от того, насколько хорошо они «мыслят», могут не суметь постичь многие вещи. А эти вещи – сущность человеческих переживаний. В опере мы сопереживаем Аиде, которая в ужасе от собственных слов «Ritorna vincitor»[71] и понимает, что разрывается между любовью к Радамесу и преданностью своему отцу и своему народу. Сможет ли машина испытывать те же чувства, что и Аида, или переживать, как все мы, когда видим, как она молит богов сжалиться над нею? Сможет ли машина испытывать страх смерти, если она не живет? Похоть, если у нее нет половых органов? Или те ощущения, что приходят вместе с мигренями, морщинами или обычной простудой? Легко представить машину в нацистской форме и еще одну машину, которую мы назовем Софи. Но когда первая заставляет вторую сделать ужасный выбор, сумеет ли первая испытать садистское удовольствие, а вторая – кошмарную безысходность вроде той, что изображена в книге Стайрона «Выбор Софи»[72]?

Если машины неспособны в полной мере к типу мышления, который включает страсти и страдания наподобие тех, что мы видим у Рассела, Аиды или Софи; если они не могут испытывать томление, желание, решимость и унижение, лежащие в основе мышления набоковского Гумберта, конрадовского Куртца, мелвилловского Ахава или толстовской Анны; если они ничего из этого не могут, то, наверное, они действительно неспособны мыслить.

Интуитивная теория машины

Кристофер Шабри

Адъюнкт-профессор психологии Юнион-колледжа; автор, совместно с Дэниэлом Саймонсом, книги «Невидимая горилла, или История о том, как обманчива наша интуиция» (The Invisible Gorilla: How Our Intuitions Deceive Us)[73]

Я часто задавался вопросом: почему нам, людям, так тяжело здраво размышлять о мыслящих машинах.

В литературе, кино и играх они часто изображены копиями людей, иногда вплоть до формы тела и его частей, а их поведение указывает на то, что и думают они во многом так же, как мы. Но мышление не обязано следовать человеческим правилам или моделям, чтобы считаться мышлением. Примеров тому множество: шахматные компьютеры умнее людей не потому, что они думают так же, как люди, только лучше, а потому, что они думают совсем по-другому. Успешный перевод с одного языка на другой может быть выполнен без глубокого знания грамматики.

Эволюция наделила человека способностью представлять и осмысливать содержание других человеческих разумов. К моменту поступления в школу дети умеют учитывать, что разные люди знают об одном и том же наборе фактов (необходимое условие для того, чтобы научиться лгать). Позже, став взрослыми, мы используем эту способность, чтобы договариваться, сотрудничать и решать задачи для извлечения личной и общей выгоды. Эта часть ментального оснащения часто называется моделью психического и действует даже в ситуациях, где отсутствуют «разумы», которые можно было бы представить. Видеозаписи, на которых двухмерные фигуры движутся по экрану компьютера, могут рассказывать истории о любви, предательстве, ненависти и насилии, существующие исключительно в голове у зрителя, на время забывающего, что у многоугольников нет эмоций.

Может быть, нам сложно думать о мыслящих машинах, потому что у нас нет соответствующей интуитивно понятной модели. Смоделировать в уме даже простое механическое устройство из нескольких взаимосвязанных шестеренок, скажем чтобы выяснить, в какую сторону, быстрее или медленнее будет крутиться последняя из них при вращении первой, задача чертовски сложная. Сложные машины, состоящие из абстрактных алгоритмов и данных, еще более далеки от нас при тех умственных способностях, которыми мы располагаем.

Возможно, именно поэтому когда мы задумываемся о мыслящих машинах, то воспринимаем их как разумных существ – практически как людей. Мы применяем лучшие инструменты, которые есть у нашего мозга, а именно модель психического и универсальное мышление. К сожалению, первая не предназначена для таких задач, а использование второго затруднено ввиду наших ограниченных способностей к концентрации внимания и выделению оперативной памяти. Конечно, у нас есть дисциплины вроде физики, инженерного дела и теории вычислительных систем, которые учат нас, как понимать и как строить машины, в том числе мыслящие, но для усвоения хотя бы основ этих дисциплин требуются годы систематического обучения.

Предмет «Теория машины» будет игнорировать интенциональность и эмоции и специализироваться на репрезентации взаимодействий различных подсистем, входов и выходов, с тем чтобы спрогнозировать действия машин в различных обстоятельствах, как модель психического (также называемая теорией сознания) помогает нам прогнозировать поведение других людей.

Если бы наш мозг имел встроенный инструментарий для теории машины, то все могло бы быть иначе. Вместо этого мы, похоже, обречены видеть сложную действительность машин, принципы мышления которых отличаются от привычных нам, через призму упрощения и допущения о том, что их разум, при больших или меньших способностях, будет все же аналогичен нашему. Поскольку со временем нам предстоит все больше и больше взаимодействовать с мыслящими машинами, придется как-то выработать более качественные средства для их интуитивного понимания. Создание новой дисциплины – сложная задача, но однажды наш мозг с этим уже справился, инновационным образом использовав уже имевшиеся способности, – когда человечество изобрело письменность. Возможно, наши потомки будут осваивать навыки понимания машин с той же легкостью, с какой мы учились читать.

Мыслящие солончаки

Урсула Мартин

Профессор информатики Оксфордского университета

Прогуливаясь на закате около солончаков, я замираю в смущении, потому что тропа исчезает в неглубоком разливе мутной воды, сверкающей в лучах заходящего солнца. Потом я замечаю выложенную из камней переправу, заметную только потому, что их грубая поверхность нарушает светлую, яркую гладь водной поверхности. Я приспосабливаю свой шаг к ритму камней и иду через солончак к виднеющимся вдали песчаным дюнам.

Чтение залитого водой солончака – это разговор с прошлым, с людьми, о которых я ничего не знаю, кроме того, что они уложили камни, задающие мой шаг, и, вероятно, разделяли мою нелюбовь к тому, чтобы мочить ноги.

За дюнами, вдоль залива, до дальней деревни протянулся широкий песчаный пляж. Отступающий прибой оставил удивительно правильные узоры из воды и песка, которые повторяют линии древних деревянных столбов. Несколько сотен лет назад тут в изобилии водился лосось, и эти столбы поддерживали сети, в которые его ловили. Каменная церковь дает мне ориентир, и я шагаю через пляж в ее направлении, чтобы выйти к деревне, попутно потревожив шумные стайки морских птиц.

Вода, камни, столбы и купол церкви – это реплики неспешного разговора длиною в века. Строители, рыбаки и даже одинокие путники оставляют на земле отметки; ветер, дождь и прибой, камни, песок и вода, животные и растения отвечают на них; а новые поколения, в свою очередь, по-своему отзываются на то, что находят, и изменяют найденное.

А что насчет мыслящих машин? Можно обсуждать проблемы искусственного интеллекта, связанные с компьютерным зрением и построением маршрута через залитые водой солончаки и пляжи или с пониманием нарративов прошлого, выраженных не с помощью стройного анализируемого текста, а посредством стертых ногами камней и гниющих деревянных столбов.

Можно поразмышлять о том, как мыслящая машина дополнила бы ощущения одинокого путника. Например, миленький робот-компаньон шлепал бы по солончаку и бегал по пляжу за морскими птицами. А может быть, путника вела бы по тропе мыслящая машина, располагающая обширными потоками данных о маршрутах, погоде и природе, обеспечивающая тем самым человеку кокон из пошаговых инструкций, заметок о животных и растениях, исторических сведений и данных о физической нагрузке, а также предупреждений о возможном нарушении границ частных владений и опасных последствиях приближающегося прилива. Или это была бы машина, созданная, чтобы выяснить, куда отправляются птицы на лето и как сделать так, чтобы опять стало много лосося.

Но какой будет мыслящая машина, которая сможет найти свое место в неспешных разговорах, что век за веком ведут между собою земля и вода? Какие качества потребуются такой машине? А что, если она не придет на смену какой-то сущности, а поможет нам понять сочетание человеческих, природных и технологических процессов, которые создают все, что мы видим на краю моря, а также то, какой отклик это в нас вызывает? Для описания целенаправленного взаимодействия людей и компьютеров сейчас используется термин «социальная машина» – «Википедия» и тому подобное, – так что назовем нашу машину «пейзажной».

Ах, да, целенаправленного… У одинокого путника может быть простая цель: наловить рыбы, разобраться в поведении птиц или просто без приключений вернуться домой до начала прилива. Но что, если он хочет просто побродить в одиночестве, чтобы обрести спокойствие, побыть на лоне природы, обогатить фантазию или найти духовную пищу? Тогда прогулка превращается в разговор с прошлым, не напрямую, не через камни, столбы или воду, но с помощью слов, с помощью стихов тех, кто ощутил себя человеком благодаря камням, столбам и воде и нашел слова для того, чтобы передать свои чувства. Так что цель одинокого путника состоит в том, чтобы усилить те самые качества, которые делают его человеком в его разделенной с другими людьми человечности. Это действительно сложная задача для мыслящей машины.