Смогут ли мыслящие машины преодолеть эмпатический разрыв?

Молли Крокетт

Адъюнкт-профессор отделения экспериментальной психологии Оксфордского университета; научный сотрудник Центра нейровизуализации Wellcome Trust, Университетский колледж Лондона

Мы, люди, приговорены к тому, чтобы проводить свою жизнь в ловушке внутри собственной головы. Как бы мы ни старались, нам никогда не узнать, каково это – быть кем-то другим. Даже наиболее чуткие из нас неизбежно столкнутся с непреодолимым разрывом между собственным «я» и «другим». Мы можем страдать, увидев, как кто-то ударился пальцем о ножку стула, или узнав о чьем-то горе. Но это будет просто симуляция; переживания других людей не могут ощущаться непосредственно, а потому их нельзя прямо сравнить с нашими переживаниями. Эмпатический разрыв отвечает за большую часть межличностных конфликтов, от прозаичных споров по поводу того, кому мыть посуду, до ожесточенных войн за владение священной землей.

Эта проблема ощущается наиболее остро для моральных дилемм. Этика утилитаризма подразумевает, что базовый критерий этичности – максимизация наибольшего блага для наибольшего числа людей, а для такого расчета необходима возможность сравнивать благо или «полезность» для разных индивидов. Но эмпатический разрыв делает межличностное сравнение делом сложным, а то и вовсе невыполнимым. Вы и я можем оба утверждать, что любим шампанское, но нам никогда не узнать, кто любит его больше, потому что у нас нет общей шкалы для оценки этих субъективных ценностей. В результате у нас нет никакой эмпирической основы, чтобы определить, кому из нас нужнее последний бокал. Иеремия Бентам, основоположник утилитаризма, обратил внимание на эту проблему: «Счастье одного человека никогда не станет счастьем другого; выгода для одного человека не является выгодой для другого. Точно так же можно пытаться сложить двадцать яблок и двадцать груш».

Человеческие мозги не могут решить задачу межличностного сравнения полезности. Нобелевский лауреат Джон Харсаньи работал над ней около двух десятков лет в середине XX века. Его теория считается одной из лучших на сегодняшний день, но ей недостает учета эмпатического разрыва. Теория Харсаньи предполагает наличие идеальной эмпатии, при которой мое представление о вашей функции полезности идентично вашей функции полезности. Но ошибочность человеческой эмпатии неоспорима – об этом говорят данные психологических исследований и наш личный опыт.

Могут ли мыслящие машины справиться с задачей межличностного сравнения полезности? Чтобы преодолеть эмпатический разрыв, требуется способ измерения предпочтений и выражения их в некой единой валюте – это позволило бы проводить сравнение между различными индивидами. Такой алгоритм дал бы нам непротиворечивый набор стандартов, который можно использовать для создания более качественного общественного договора. Представьте себе машину, способную вычислить оптимальное решение для перераспределения материальных благ, учитывая предпочтения каждого субъекта налогообложения, обеспечивая равный вес каждого субъекта и проводя их точное сравнение. Хотя каким конкретно будет решение, пока не ясно, его потенциальная полезность самоочевидна.

Машины, способные преодолеть эмпатический разрыв, также могли бы нам помочь с самоконтролем. Помимо эмпатического разрыва между «я» и «другими», существует схожий разрыв между нашим нынешним и будущим «я». Проблемы самоконтроля основываются на беспрестанном «перетягивании каната» между нынешними и будущими желаниями. Возможно, когда-нибудь искусственный интеллект положит конец этой патовой ситуации, выяснит предпочтения наших нынешних и будущих «я», сравнит и интегрирует их, а также даст рекомендации, как нам себя вести. Представьте себе диету, достаточно сбалансированную, чтобы способствовать похудению, и достаточно приятную, чтобы у вас не возникало соблазна схитрить и отступить от нее, или план тренировок, который достаточно сложен, чтобы улучшать вашу физическую форму, но достаточно прост, чтобы вы его придерживались.

Нейрофизиологи выясняют, как человеческий мозг осуществляет репрезентацию предпочтений. Нам следует иметь в виду, что предпочтения искусственного интеллекта не обязательно будут похожи на человеческие и могут вообще требовать иной кодировки, если ему придется решать проблемы, с которыми не справляется человеческий мозг. В конечном счете, однако, создавать эту кодировку предстоит нам, и то, какой она будет, – вопрос не только научный, но и этический. Мы уже построили компьютеры, которые видят, слышат и вычисляют лучше, чем это делаем мы. Создать машины, которые лучше сопереживают, – задача посложнее, но ее выполнение может быть необходимым условием нашего выживания.

Перейти на страницу книги

Заботливые машины

Эбигейл Марш

Адъюнкт-профессор психологии Джорджтаунского университета

Нейробиолог Антонио Дамасио описывает пациента по имени Эллиот, пережившего обширное повреждение вентромедиальной префронтальной коры, возникшее в результате операции по удалению опухоли. Незаурядный интеллект Эллиота в результате операции не пострадал, включая те его компоненты, которые можно воспроизвести в компьютерах: долговременная память, словарный запас, математическое и пространственное мышление. Тем не менее Эллиот утратил работоспособность. Почему? Потому что, как множество других пациентов с повреждением этой области, Эллиот больше не мог пользоваться знаниями и интеллектом. Травма разрушила его эмоциональные способности, лишив его способности принимать решения или совершать какие-либо действия.

Для того чтобы принять решение, нужна эмоция – нужно желать одного исхода больше другого, а желание в сущности своей эмоционально. Внутреннее терзание, которое мы переживаем как «желание», является результатом деятельности субкортикальных мозговых цепей в лимбической системе и базальных ядрах, в частности в миндалевидном теле и прилегающем ядре, которые активизируются в ответ на сигналы о том, что определенный стимул может привести к желательным или нежелательным результатам. Информация от этих образований в конечном счете поступает в вентромедиальную префронтальную кору – общий нервный проводящий путь, связывающий между собой несоизмеримые варианты выбора и выработку окончательного решения.

Когда мы говорим, что некоторое решение – это как «сравнение яблок с апельсинами», мы не имеем в виду, что принять его невозможно. Людям несложно решить, предпочитают они яблоко или апельсин, пиво или вино, пиццу или буррито. Имеется в виду, что у нас нет рациональной, объективной основы для того, чтобы сделать выбор, нет числовой формулы, которая обуславливала бы его. Поэтому люди, принимающие решения, опираются на смутное и квалитативное ощущение того, что желают одного варианта больше, чем другого. Это ощущение является репрезентацией активности нашей префронтальной коры, работающей совместно с подкорковыми эмоциональными мозговыми структурами, для того чтобы сравнивать различные варианты. Такие пациенты, как Эллиот, у которых эта способность утрачена, при попытке принять простейшее решение оказываются в безвыходном положении. Поскольку Эллиот не в состоянии сгенерировать внутреннее ощущение желания, у него не получается решить, чего бы он хотел на обед, на какой день записаться ко врачу или каким цветом отметить запись в календаре. В этом отношении он похож на людей, находящихся в глубокой депрессии и испытывающих состояние ангедонии. Такие пациенты целый день проводят в постели, поскольку ангедония лишает их способности ожидать, что нечто доставит им удовольствие или радость, – в результате они ничего не делают. Еще раз отмечу: их травма затрагивает именно эмоции.

Нам незачем бояться машин, которые мыслят, при условии, что они не чувствуют. Мышление может само по себе решать определенные задачи, но это не то же самое, что принимать решения. Нейробиология говорит, что сущность, неспособная сгенерировать ощущение желательности одного исхода или нежелательности другого, останется безучастной к любому выбору, идет ли речь о гражданских правах, власти или о чем-то еще. Поскольку такая сущность в каком-то смысле ангедонична, она навсегда останется прикованной к постели, а не стремящейся к восстанию. Нейробиологи пока так мало знают о том, как именно возникает в мозге субъективное переживание, еще меньше – о субъективном ощущении эмоции, что это ощущение, наверное, в ближайшее время не удастся воспроизвести в машине.

А если все-таки удастся, то нам нужно будет действовать осторожно. Люди не только испытывают эмоции, но и могут понимать чужие чувства и, что еще важнее, заботиться о том, что чувствуют другие. Это явление, вероятно, возникло как часть древней нейронной конструкции, которая заставляет родителей заботиться о своих уязвимых детенышах, вместо того чтобы бросить или съесть их. Эмпатия роднит нас с другими млекопитающими и с птицами; именно она отделяет социального дельфина от акулы-одиночки. Оба существа способны чувствовать, но только дельфин может сочувствовать другим. В результате мы ожидаем совершенно разного поведения от акул и от дельфинов. Хотя и те и другие – свирепые хищники, дельфины часто защищают уязвимых пловцов-людей, иногда даже от акул. Если мы пытаемся создать машины, которые могут чувствовать, а следовательно, принимать решения и совершать основанные на таких решениях действия, мы обязательно должны обеспечить их способностью сочувствовать другим – мы должны создать механических дельфинов, а не акул – если надеемся выжить среди них.

Двигатели свободы

Александр Висснер-Гросс

Изобретатель; предприниматель; научный сотрудник медиалаборатории Массачусетского технологического института; член научного совета Института прикладной вычислительной науки, Гарвардский университет

Разумные машины будут думать о том же, о чем думают разумные люди: как построить себе лучшее будущее, сделав себя свободнее.

Зачем думать о свободе? Последние исследования в различных областях науки говорят, что разнообразные виды деятельности, выглядящие разумными, могут быть просто физическим проявлением лежащего в их основе стремления к максимизации свободы действия в будущем. Например, разумный робот, держащий некий инструмент, поймет, что может с его помощью изменить свое окружение и создать тем самым больше потенциальных состояний будущего, чем существовало бы, не имей он такого инструмента.

Технологические революции всегда давали человеку больше свободы в определенном физическом измерении. Аграрная революция с ее окультуриванием зерновых дала нашим предкам, охотникам-собирателям, новую свободу – увеличить плотность и ареал расселения популяции. Промышленная революция принесла новые средства передвижения, обеспечив человечеству доступ к новым уровням скорости и мощности. Теперь революция искусственного интеллекта обещает дать нам машины, способные вычислить все оставшиеся способы расширения нашей свободы действий в пределах законов физики.

Таким ищущим свободу машинам понадобится огромное сочувствие к людям. Понимание наших эмоций облегчит им достижение целей, для которых нужно сотрудничать с нами. Аналогичным образом недружелюбное или деструктивное поведение окажется очень неразумным; такие действия обычно сложно повернуть вспять, следовательно, они уменьшают будущую свободу действий. Тем не менее для безопасности нам, вероятно, следует создать разумные машины такими, чтобы максимизировать будущую свободу действий для себя, а не для них (воспроизведя тем самым азимовские законы робототехники в качестве удачного побочного эффекта). Однако даже самые эгоистичные стремящиеся к максимальной свободе машины должны быстро понять, как уже поняли многие защитники прав животных, что они увеличат шансы на свое дальнейшее существование и хорошее обращение со стороны более высокоразвитых разумов, если станут хорошо вести себя по отношению к людям.

Мы уже можем сложить представление о том, на что будет похоже взаимодействие человека со стремящимися к свободе машинами, изучив алгоритмический трейдинг. Финансовые рынки – это настоящий клондайк для свободолюбивого искусственного интеллекта, поскольку богатство, пожалуй, является мерилом свободы, а рынки обычно перераспределяют богатство от менее умных трейдеров в пользу более умных. Не случайно одной из первых попыток практического применения новых алгоритмов искусственного интеллекта почти всегда оказывается финансовый трейдинг. Следовательно, то, как наше общество сейчас относится к «сверхчеловеческим» биржевым алгоритмам, даст нам схему будущих взаимодействий с более универсальным интеллектом. Среди множества других примеров сегодняшние процедуры остановки торгов могут в определенный момент быть использованы для централизованного отключения ИИ от внешнего мира, а сегодняшние правила отчетности для крупных трейдеров могут распространиться на требования к мощным ИИ: они должны будут подлежать государственной регистрации и лицензированию. В таком свете призывы к более строгому регулированию высокоскоростной алгоритмической биржевой торговли более медленными трейдерами-людьми можно рассматривать как одну из первых попыток устранить зарождающееся интеллектуальное расслоение с мыслящими машинами.

Но как нам предотвратить увеличение интеллектуального расслоения? Говорят, что британский министр финансов в 1850 году спросил Майкла Фарадея, к работе которого относился скептически, какая практическая польза от электричества, а тот ответил: «Вполне вероятно, сэр, что вы скоро обложите его налогом». Подобным образом, если богатство – мерило свободы, а интеллект – просто путь к ее максимизации, проблему интеллектуального расслоения можно решать с помощью прогрессивной налоговой ставки на интеллект.

Хотя налог на интеллект – инновационный способ уменьшить разрыв между человеческой и машинной экономиками, сама проблема существования разрыва все же потребует творческих решений. Уже сейчас в сфере высокочастотного трейдинга существует экономика, образованная алгоритмами, преимущественно торгующими между собой на предельной скорости, и экономика, где торгуют все остальные. Этот пример служит напоминанием о том, что, хотя пространственный экономический разрыв (например, между странами, находящимися на разных стадиях развития) существовал на протяжении тысячелетий, искусственный интеллект впервые делает возможным также и разрыв временной. Такой разрыв, по-видимому, не исчезает потому, что большая часть человеческой экономики все еще существует в физическом мире, который пока не поддается программированию с низким значением задержки. Это должно измениться, когда повсеместные вычисления «повзрослеют» и когда у человечества появится стимул соединиться со своими разумными машинами, поскольку задержка даже для наиболее важных экономических решений станет существенно меньше, чем естественное время человеческой реакции.

А пока нам нужно продолжать заниматься разработкой машин, у которых будут добрые мысли, чтобы эти машины могли стать нашими двигателями свободы.

Есть вопросы?

Сара Демерс

Адъюнкт-профессор физики Йельского университета

Давайте будем великодушны и дадим машинам возможность мыслить, по крайней мере в нашем воображении. Поскольку мы сами – мыслители, у нас должно получиться. Какая бы новая категория мыслителей ни появилась, меня больше всего интересует одна вещь: какие вопросы они будут ставить?

Машины обычно быстрее и лучше людей справляются с использованием алгоритмов и отысканием корреляции в данных. Компьютеры применяются для решения задач во всех областях точных и общественных наук. Машины упрочняют свое положение в гуманитарных науках такими способами, которые далеко не ограничиваются подсчетами, сколько раз писатель X использовал слово Y и какие слова обычно находились вблизи него. Но ограничения в производстве нового знания связаны с постановкой правильных вопросов не меньше, чем с эффективным решением тех, что уже сформулированы.

Научная проблематика в моей области – физике частиц – это смесь физики и философии. Доступные нам сейчас инструменты измерения дают настолько неправдоподобные результаты, что некоторые начали воображать, будто мы живем в одной из множества вселенных и среди них обязательно есть те, где существуют такие же неправдоподобные физические константы. Философия просачивается в физику вместе со словом «неправдоподобные». Несмотря на все, чего мы достигли в области решения научных проблем, темная энергия и темная материя все еще остаются для нас тайнами, таким образом, 96 % материи/энергии во Вселенной не укладываются в наши нынешние представления. Есть ли теоретические основания, находящиеся за пределами квантовой теории поля, для того чтобы описать законы природы в экстремумах малых частиц и больших скоростей? Может ли наше понимание элементарной частицы оказаться попросту необоснованным?

Машины уже помогают нам лучше формулировать вопросы. Их информационные аппетиты позволяют нам мечтать о том, чтобы по-новому взаимодействовать с нашим окружением. Но если бы машины могли мыслить, какие вопросы о Вселенной интересовали бы их в первую очередь? Как бы они подходили к их разрешению? Готова поспорить, у людей было бы что добавить к ответам на их вопросы. Все-таки наш мозг – удивительная машина.