Манипуляторы и манипулируемые

Джош Бонгард

Адъюнкт-профессор теории вычислительных систем Вермонтского университета; автор, совместно с Рольфом Пфайфером, книги «Как тело определяет наш образ мысли» (How the Body Shapes the Way We Think)

Поставьте перед собой на стол знакомый предмет, закройте глаза и произведите с ним такие манипуляции, чтобы он повис над столом вверх ногами. Ваши глаза закрыты, так что можете сконцентрироваться на мышлении. Как вы дотянулись до предмета, как взяли его и перевернули? Какая сенсорная обратная связь сказала вам, что задуманное удалось либо не удалось? Теперь снова закройте глаза и подумайте о том, как вы производите манипуляции над кем-то из ваших знакомых, чтобы этот человек сделал что-то, чего не желает. И снова понаблюдайте за своим мышлением: какие стратегии вы можете применить? Если вы реализуете эти стратегии, то как определите, что вам удалось или не удалось задуманное?

Хотя в последнее время были достигнуты значительные успехи в создании машин, которые обнаруживают паттерны в данных, большинство людей считают, что универсальный интеллект должен включать действие – достижение некоторой желаемой цели или отказ от этого, с тем чтобы рассмотреть другие варианты. Предполагается, что такой овеществленный подход к интеллекту позволяет людям использовать физический опыт (например, манипулирование предметами) в качестве основы для более деликатных умений (таких как манипулирование людьми). Но наши тела определяют то, какие физические переживания мы испытываем. Например, мы можем манипулировать лишь несколькими объектами одновременно, потому что у нас только две руки. Не исключено, что это ограничение как-то сдерживает и наши социальные навыки, о чем нам еще только предстоит узнать. Джордж Лакофф, занимающийся когнитивной лингвистикой, научил нас тому, что ключи к разгадке телоцентризма мышления можно найти в метафорах: мы советуем друг другу «не оглядываться» в гневе, потому что обычно мы идем туда, куда направлен наш взгляд, и события прошлого в буквальном смысле остаются позади нас.

Следовательно, чтобы машины мыслили, они должны действовать. А для этого им надо иметь тела, чтобы связывать физическое и абстрактное мышление. Но что, если у машин не такие тела, как у нас? Рассмотрим гипотетического ветвящегося робота Ханса Моравека: представьте себе куст, в котором каждая ветвь – это рука, а каждый прутик – палец. Фрактальная природа такого робота позволит ему манипулировать тысячами или миллионами предметов одновременно. Как могло бы отличаться мышление такого робота от человеческого в плане манипулирования людьми?

Один из многих заметных пороков человеческого мышления – это дихотомическое суждение, склонность считать нечто черным или белым, а не рассматривать его конкретный оттенок серого. Но мы негибкие модульные существа; на нашем разветвленном наборе костей размещаются органы и закрепляются придаточные части с особыми функциями. Как насчет машин, которые не настолько черно-белые? Благодаря успехам в области материаловедения и 3D-печати начинают появляться мягкие роботы. Они способны коренным образом менять форму; в будущем они смогут на одном участке своей поверхности на 20 % состоять из батареи и на 80 % – из мотора, на другом – на 30 % из сенсора и на 70 % из опорной структуры, а где-то еще на 40 % из искусственного материала и на 60 % из биологического. Подобные машины смогут намного лучше оценивать те или иные градации, чем это делаем мы.

Но будем смотреть глубже. Большинство из нас без видимых сложностей пользуется местоимением в единственном числе, «я», имея в виду переплетение нейронов у себя в голове. Мы точно знаем, где заканчиваемся мы и начинается мир и другие люди. Но рассмотрим модульных роботов – небольшие кубики или сферы, которые могут произвольно соединяться и разъединяться. Как бы такие машины подошли к проблеме разграничения «я – не-я»? Сильнее бы они сопереживали другим машинам (а может, и людям), будучи в состоянии физически присоединиться к ним или даже стать их частью?

Вот что я думаю о мышлении машин: оно будет похожим на наше, поскольку машины тоже станут использовать свои тела как инструменты для построения суждений о мире, и все же оно будет совершенно иным, поскольку их тела будут отличаться от человеческих, что приведет к совершенно иным модусам мышления.

Но что я думаю о мыслящих машинах? Я нахожу этическую сторону вопроса совершенно немудреной. Их опасность будет четко коррелировать с объемом свободы действий, которую мы им дадим для выполнения задач, поставленных нами же. Машины, которым сказали «обнаруживать и убирать бракованные изделия с конвейерной ленты лучшим способом из возможных», будут вполне полезны, интеллектуально неинтересны и, вероятно, уничтожат больше рабочих мест, чем создадут. Машины, получившие инструкции «обучать недавно принятого сотрудника (или ребенка) лучшим способом из возможных», создадут рабочие места и, вероятно, станут вдохновением для следующего поколения. Машины, которым приказано «выживать, размножаться и развиваться самым эффективным способом из возможных», лучше всего продемонстрируют нам разнообразные способы мышления, но они, вероятно, оставят нам очень немного времени, чтобы насладиться новым знанием. Исследователи в области искусственного интеллекта и робототехники рано или поздно найдут способы создать все три этих вида. Какие из них мы захотим сделать реальностью – решать нам.