Искусственный интеллект и сознание

 

    (стр. 116)

 

Некоторые теоретики утверждают, что метаболизм, то есть непрерывный обмен веществ и энергии со средой, призванный сохранять границу между индивидом и остальными, является необходимым условием сознания. В соответствии с такой точкой зрения, за артефактом, у которого отсутствует метаболизм, нельзя признать право на сознание. Похоже, что она исключает наличие сознания в любой компьютерной модели мозга, даже в идеально точной модели всего мозга, хотя и оставляет место для сознания у ИИ на основе биологических нейронов или синтетических биоматериалов. Другие теоретики предпочитают смотреть на сознание с функциональной точки зрения, то есть ориентируются на то, как система (например, мозг) организована, а не на какой материальной основе она функционирует.[iii]

 

 

    Мысленный эксперимент позволяет подвести под проблему более надежное основание … представьте себе эмуляцию всего мозга мыши … путем постепенной замены — по одному нейрону — всех нейронов в самой мыши эквивалентным электронным суррогатом. … Итак, большинство людей согласятся, что мышь - обычная живая мышь - обладает определенным сознанием. Мы считаем, что мышь может чувствовать голод и боль. Она осознает свое окружение - запахи и текстуры, изображения и звуки. Все это разные стороны сознания. Вопрос состоит в том, что произойдет с сознанием мыши в нашем мысленном эксперименте. Что произойдет, к примеру, с ее способностью страдать, когда мы будем заменять нейроны ее мозга, один за другим? (Естественно, мы предполагаем, что этот процесс проходит безболезненно для мыши.)

 

(стр. 117)

 

    Возможно ли, что в какой-то момент сознание мыши вдруг исчезнет? Например, после замены 239 457-го нейрона? Это кажется маловероятным. Так что ее сознание, наверное, будет исчезать постепенно. С виду мышь останется неизменной на протяжении всей процедуры. Она будет так же искать сыр, пищать при ударе электрическим током и т.п. Но «голод сам по себе», внутреннее ощущение, будет медленно исчезать, даже если для внешнего наблюдателя ничего не изменится. Такое представление подразумевает, что в биологии нейронов есть нечто мистически важное. Их биологическая природа загадочным образом создает нимб сознания, чего-то не имеющего отношения к поведению, - философы называют это «эпифеноменом».

    С другой стороны, сознание мыши может сохраняться на всем протяжении процедуры. Возможно, она будет в состоянии чувствовать боль до начала замены нейронов, после замены половины мозга на цифровые аналоги и даже после замены всех нейронов, в результате которой ее мозг стал полностью электронным. … Эта возможность кажется, как минимум такой же разумной, как и вариант с постепенным угасанием сознания. … мысленный эксперимент можно применить к мозгу любого размера. И в этом случае надо полагать, что поведение человека, подвергшегося описанной процедуре, не изменится. С виду - даже для близких и друзей - он останется той же личностью, несмотря на

 

 (стр. 118)

 

замену все большего числа нейронов на электронные эквиваленты. Он слушает такую же музыку, рассказывает те же истории о школьных годах и т.п. Более того, на вопрос о самочувствии он отвечает, что не чувствует ничего необычного. И да, он будет настаивать, что по-прежнему находится в сознании. Он замечает цвет неба и ветер, овевающий лицо. Все это следует из того предположения мысленного эксперимента, что поведение является результатом физических процессов, которые можно реплицировать in silico, то есть в компьютерной модели.

    Но можно ли верить этим утверждениям, когда все нейроны будут заменены на искусственные аналоги? Или надо остаться скептиком? Возможно, наш испытуемый превратился в «зомби» в философском смысле, - в существо, ведущее себя, как настоящий человек, несмотря на отсутствие внутреннего мира. <...>

 

 (стр. 120)

 

Так должны ли мы сомневаться в нашем испытуемом, полагая, что все его сознательные воспоминания иллюзорны? Будете ли вы сомневаться в собственных воспоминаниях о ветре, который веял в лицо, когда вы сегодня утром шли на работу, если вдруг узнаете, что на тот момент все нейроны вашего мозга были искусственными? Поверите ли вы философу, который скажет, что на самом деле раньше вы были просто зомби, который ничего не чувствует, но ведет себя точь-в-точь как вы, и тогда же в вашу голову вложили фальшивые воспоминания об эксперименте с сознанием? Если нет, то вы относитесь к функционалистам - вы предпочитаете верить, что сознание сохраняется на протяжении всей процедуры, а в нейроне важна его функция, а не биологический состав. <...>

 

 (стр. 122)

 

 

А пока вернемся к самому либеральному виду функционализма и посмотрим, как далеко нас заведут дальнейшие рассуждения. Представим себе, что независимо от формы тела каждая из эмулированных моделей всего мозга заслуживает называться такой же сознательной, как и полностью биологический оригинал. … Что можно сказать о сознании в сконструированном мозге?

    Как насчет искусственного интеллекта, конструкция которого в целом отвечает принципам построения биологического мозга, но не соответствует мозгу ни одного из реальных животных, не говоря уже о конкретном экземпляре? Как далеко можно отойти от биологического оригинала, не нарушая условия, обеспечивающие возникновение сознания?

    На самом деле, чтобы ответить на этот вопрос, нам нужна общепринятая общая научная теория сознания… В контексте суперинтеллектуального ИИ, возможно, даже имеет смысл говорить о разных видах сознания или уровнях сознания, выходящего за пределы человеческого. Достаточно зрелая теория может охватывать и эту возможность. К сожалению, пока такой общепринятой теории нет.

    Тем не менее есть ряд достойных кандидатов, таких как теория глобального рабочего пространства Бернарда Баарса (Bernard Baars) и теория интеграции информации Джулио Тонони (Giulio Tononi). Мы не будем здесь углубляться в эти или другие теории сознания. Но стоит отметить, что общего у этих двух ведущих теорий. В обеих теориях - Баарса и Тонони – сознание, по сути, характеризуется как феномен всего мозга или всей системы. В соответствии с этим подходом наличие у человека сознательного опыта означает, что он находится в состоянии, охватывающем весь мозг или большую его часть. Задействуется как долгосрочная, так и краткосрочная память, его языковой центр, его эмоции и воображение. Это не что-то проистекающее из какой-то отдельной части мозга, а всеобъемлющее, неотъемлемое, распределенное и целостное свойство.

    Такие теории целостности допускают наличие сознания в видах ИИ, фундаментально отличных от биологического мозга, поскольку не имеют предрассудков, касающихся конструкции ИИ. <...>

 

 (стр. 123)

 

 

Это не означает, что сознание и универсальный интеллект неразделимы, но поддерживает мысль о том, что они совмещаются в мозгоподобных архитектурах.

 

 

    5.2 ЖИЗНЬ ИИ, СОЗДАННОГО ПО ОБРАЗУ МОЗГА

 

    В отсутствие адекватной теории нельзя сказать с уверенностью, насколько сознание распространено в пространстве возможных искусственных интеллектов. Но определенно сознание занимает какую-то его часть. Вопрос о том, будет ли искусственный интеллект обладать сознанием, очень важен, потому что он определяет диапазон морально приемлемых вариантов будущих исследований. Философ XVIII столетия Иеремия Бентам (Jeremy Bentham) сформулировал наш моральный долг перед животными, указывая, что надо спрашивать не о том, могут ли они мыслить или говорить, а о том, могут ли они страдать. Этот же вопрос надо задавать в отношении искусственного интеллекта человеческого уровня. Способен ли он страдать? Если ответ «да», то надо хорошо все взвесить, прежде чем приводить его в мир, но если мы его приведем, то обязаны относиться к нему хорошо.[iii]

 

(стр. 126)

 

    Будет ли оправдано с моральной и практической точки зрения создать искусственный интеллект человеческого или сверхчеловеческого уровня, основываясь на структуре биологического мозга, принимая во внимание тот факт, что люди - сознательные существа со сложным эмоциональным миром? С точки зрения морали, если такой ИИ способен страдать, этическая обязанность его создателей - обеспечить его благополучие.

 

 (стр. 128)

 

Совершенно неочевидно, что универсальный интеллект сформируется в эмоционально выхолощенном мозгу ИИ. У людей эмоции неразрывно связаны с принятием решений и творчеством. Более того, …один из признаков человеческого

 

 (стр. 129)

 

интеллекта - способность выйти за пределы биологически унаследованной функции подкрепления через логику и мышление. Но чтобы обеспечить безопасность своего продукта, инженеры по нейротехнике должны не только перестроить мотивационную систему мозга, но и зафиксировать полученную в результате функцию подкрепления, чтобы убрать из нее возможность поддаться менее прогнозируемым и более опасным влияниям. <...>

 

 (стр. 131)

 

 

    5.3 СОЗНАНИЕ И СОЗДАНИЕ СУПЕРИНТЕЛЛЕКТА

 

    Говоря о сложности объяснить сознание научными категориями, философ Дэвид Чалмерс (David Chalmeгs) различает две проблемы – «сложную» и «простую».[iii] Так называемая простая проблема сознания (а она совсем не проста) состоит в выяснении механизмов, которые обеспечивают способности к познанию, ассоциируемые с сознанием, например способность человека осознавать свое положение за счет объединения информации, получаемой от органов чувств. описывать словами свои ощущения и мысли или помнить события своего прошлого. Важно, что эти когнитивные способности выражаются в поведении. Они помогают нам перемещаться в мире, поддерживать свое благополучие, достигать своих целей и быть частью общества.

    А вот «сложная проблема» сознания состоит в объяснении с помощью научных понятий, почему быть сознательным существом означает быть похожим на что-то, если воспользоваться терминологией другого философа, Томаса Нагеля (Thomas Nagel)[iii]. Как так происходит, что у нас есть субъективные ощущения и чувства? Как стало возможным то, что субъективно видимый мной сейчас образ - неясные очертания английского ландшафта за окном поезда - отражается в моем мозгу? Сложность здесь в скептических мыслях, возникающих в голове при взгляде на соседей по купе. Как бы они себя ни вели, что бы они ни говорили, даже если они мечтательно смотрят в окно и комментируют красоту ландшафта, может показаться, - и это не противоречит логике, - что на самом деле они

 

 (стр. 132)

 

ничего не чувствуют. Если у меня нет доступа к их частному внутреннему миру, то как я могу быть уверен, что он у них есть? Может, они просто зомби, роботы.

    Философский эффект от этих скептических мыслей должен заключаться не в том, чтобы посеять сомнение, а в том, чтобы привлечь внимание к очевидному разделению между двумя сторонами сознания: внешней стороной, у которой есть объективное проявление, и внутренней стороной, исключительно субъективной и личной. Некоторые философы считают, что объяснить внутреннюю сторону с помощью строгих научных понятий (сложную проблему) невозможно. Тем не менее многие из них согласятся, что простая проблема разрешима, то есть внешняя сторона сознания поддается научному объяснению - путем выяснения механизмов, которые порождают связанный набор познавательных способностей.

    Но какое все это имеет отношение к ИИ? Нам нужно четко понимать различие между внутренним и внешним, чтобы не запутаться при обсуждении различных последствий разных видов ИИ. Если нас беспокоят наши моральные обязательства перед создаваемыми нами существами, тогда важно, есть ли у них сознание во внутреннем смысле и является ли оно обязательным элементом ИИ. Но если мы волнуемся о влиянии, которое ИИ окажет на человеческое общество, тогда следует ограничиться внешней стороной сознания. Если речь идет только о положительном влиянии на человечество, то совершенно не важно, по-настоящему» ли суперинтеллект сознателен, - имеется в виду, так сказать, сознание внутри, то есть правда ли, что «на самом деле» он чувствует эмпатию по отношению к нам. Достаточно, чтобы он вел себя так, как если бы обладал сознанием.

 

 (стр. 133)

 

Если он ведет себя так, как если бы чувствовал эмпатию по отношению к нам, то этого вполне достаточно.

Но важно другое: чтобы ИИ, изображающий эмпатию, делал это всегда. Нам не надо, чтобы после демонстрации сочувствия через какое-то время ИИ неожиданно «поворачивался к нам спиной». <...>

До какой степени универсальный интеллект и сознание (во внешнем своем проявлении) идут в паре во всем пространстве возможных искусственных интеллектов? Возможно, суперинтеллект может обойтись без полного набора признаков познания, которые мы связываем с человеческим сознанием. Но может оказаться, что некоторое их подмножество обязательно, а это означает, что суперинтеллектуальный ИИ неизбежно будет обладать каким-то сознанием, хотя бы и инородного вида.

 

(стр. 134)

 

Вот три признака познания, которые, по-видимому, не только необходимы для сознания, но и тесно связаны друг с другом:

 

1) несомненное понимание цели;

 

2) осознание окружающего мира и текущей ситуации;

 

3) способность связывать воедино знания, восприятие и действие.

 

… Животное проявляет осознание окружающей среды тем, что отслеживает текущую ситуацию и реагирует на нее в соответствии со своими целями и потребностями: например, мышь, обнаружив нору, прячется в ней.

Наконец, животное демонстрирует полную познавательную целостность тем, что его действия не только согласованы с его ощущением текущей ситуации, но и с тем, что оно чувствовало в прошлом и что воспримет как следствие. … Разница между животным и, скажем,

 

   (стр. 135)

 

моим ноутбуком 2015 г. огромная. Невозможно ожидать от ноутбука целеустремленного поведения или какой-нибудь автономии. Ни в каком разумном смысле за ним нельзя признать осознания окружающей среды, даже в самом широком смысле этого слова (например, включив в это понятие интернет). Он неспособен с пользой суммировать информацию, которую хранит или к которой имеет доступ, для более эффективного достижения своих целей или удовлетворения своих потребностей, потому что их у него нет.

Тем не менее немного надо, чтобы оснастить этот артефакт зачатками упомянутых трех атрибутов. Пылесосы-роботы и беспилотные автомобили проявляют некоторый уровень осознания окружающей среды и способны реагировать на текущие события. следуя своим простым целям. … С увеличением взаимопроникновения и сложности этих технологий все сильнее будет становиться иллюзия того. что за изображением и голосом стоит почти разумная сущность.

А что же в этом плане можно сказать о суперинтеллектуальном ИИ? Сложно себе представить, как система может обзавестись универсальным интеллектом, не говоря уже о суперинтеллекте, если только она не демонстрирует три признака познания. В отличие от пылесоса-робота, цели которого настолько просты, что нам надо несколько минут наблюдения, чтобы полностью понять их, вникнуть в фундаментальные мотивы суперинтеллектуального ИИ может оказаться очень непросто.

 

 

(стр. 136)

 

<...> В совокупности эти три признака сознания - цель, осознание и целостность - смогут создать у любого человека, взаимодействующего или наблюдающего за таким искусственным интеллектом. впечатление единого и целостного интеллекта недюжинной силы. Короче говоря. в соответствии с такой аргументацией суперинтеллектуальный ИИ будет неизбежно проявлять внешние признаки чего-то похожего на сознание.