Компьютерное сознание. Думающие машины

 

(В беседе принимает участие специалист по компьютерной технике Михаил Волевич).

 

П. Т. Р. Томпсон посвятил проблеме компьютерного сознания целую главу [1]. Он отмечает, что большинство ученых абсолютно убеждены, что живое существо является сложнейшей машиной, состоящей из молекулярных компонент, а многие философы и психологи считают, что ум и сознание — не более, чем биофизическая функция или продукт мозга. Ум, сознание, эмоции, чувства и целенаправленные действия — все это можно объяснить на механистическом языке, и человек, таким образом, представляется не более, чем думающей биологической машиной.

 

В. К. Об этом говорилось в предыдущих беседах. Кратко резюмируя, можно сказать: тело человека можно уподобить сложной биологической машине, о чем говорится в книге мудрости — «Бхагавад-гите». Но суть в том, что мы не есть тело. Мы — душа, личность, находящаяся в теле, как в машине. Многие ученые наивно ставят знак равенства между этими понятиями, ибо таковы современные представления. Но это далеко не очевидно. Более того, современные эксперименты по реанимации больных, находящихся в состоянии клинической смерти дают уникальные результаты. Они не подтверждают механистических представлений о тождестве физического тела и самой личности.

 

П. Т. В последнее время механистические представления усиливаются. Ведутся интенсивные работы по созданию таких вычислительных машин, которые воплощали бы в себе свойства личности и отвечали бы требованиям искусственного интеллекта. Ученые, работающие в области создания искусственного интеллекта, считают, что новые сложные и быстродействующие компьютеры смогут воспроизвести все аспекты сознающей личности.

 

В. К. Они, конечно, могут в это верить: «Блажен, кто верует!» Но насколько обоснована их вера? Это было бы возможно только в случае справедливости механистической картины мира: сознание —продукт движущейся материи. Тогда ученые в принципе могли бы воспроизвести модель разума с помощью сложных компьютеров. Но если все же верна немеханистическая, то есть духовная концепция: высшее сознание, Бог, является изначальной причиной всего сущего? Мы уже упоминали в одной из наших бесед, что сознание личности подразделяется на три уровня: ум, интеллект (разум) и ложное эго. Компьютер может воспроизвести только низшие уровни сознания: ум и интеллект. Высший уровень сознания —душа или сознающее «я» — не является материальным образованием. Хотя ученые, придерживающиеся механистических воззрений, не верят в эти положения, но и предложить что-либо более логичное они не могут.

 

М.В. А вы можете опровергнуть их утверждение?

 

П. Т. Что касается обоснованности веры во что-либо, то и ученые, и верующие находятся в равных условиях. Религиозные представления возникли с самого начала человечества, но никто еще не смог объективно доказать существование Бога, и подобных нематериальных явлений.

 

В. К. Вопрос о доказательстве — не столь простой. С чисто формальной логической точки зрения ни та ни другая сторона не имеют строгого доказательства своих утверждений. Решение данного вопроса — в практической деятельности. Механистическая концепция в современной науке завела в тупик современную цивилизацию, и это — лучшее доказательство справедливости духовного подхода. Скажем, мы доказываем теорему Пифагора, опираясь на аксиомы геометрии. Но как быть в реальной жизни, где аксиомы нам неизвестны?

 

М. В. Безусловно, изучение и моделирование человеческого разума является сложнейшей задачей, однако специалисты по искусственному интеллекту ведут планомерные работы в этой области и за прошедшие 20 лет достигли фантастических результатов. Только в техническом плане быстродействие машин и объем памяти были увеличены в несколько тысяч раз. Решаемые задачи также неизмеримо усложнились. Например, недавно компьютерная программа одержала победу в шахматном матче (по полному регламенту) над чемпионом мира, что еще недавно казалось невозможным. При этом он продемонстрировал совершенно нетривиальные идеи. Можно привести и другие примеры, но суть одна — при нынешних темпах развития вычислительной техники задача построения искусственного интеллекта (подобного человеческому) будет решена в ближайшие сто лет.

 

В. К. Сомневаюсь.

 

П. Т. Р. Томпсон пытается выяснить — способна ли вычислительная машина обрести собственное сознающее «я», которое воспринимало бы себя как наблюдатель и созидатель. Он выдвинул идею: компьютеры в принципе способны воспроизводить последовательности сложных действий, сравнимые с поведением человека. Однако машины, пусть даже самые умные, не способны обрести самосознание. Доказательство ученый основывает на тех же принципах, на которых строится наука об искусственном интеллекте, то есть с помощью метода исключения. Был рассмотрен некий гипотетический цифровой компьютер, обладающий искусственным интеллектом и самосознанием на человеческом уровне. Допускается, что у компьютера могут быть осознанные мысли, эмоции и чувственные восприятия, аналогичные человеческим. У него есть хранилище информации или «память», центральный процессор (ЦП) и ряд других устройств для связи с внешним миром. «Память» — это пассивное звено. Оно лишь хранит информацию в виде чисел и промежуточных результатов вычислений. Активные же операции выполняет ЦП. Он работает собственно с символами. Из «памяти» извлекаются те или иные закодированные команды и те или иные результаты промежуточных вычислений. Затем осуществляется сама операция. Она может включать в себя, помимо операций вычисления, считывание данных с внешнего устройства, засылку их в «память», что называется «вводом», либо, наоборот, передача данных из «памяти» во внешнее устройство, что называется «выводом» и другие операции. Операции должны заканчиваться указанием места в «памяти», где следует искать очередную команду.

 

Таким образом, в основе самого совершенного современного или будущего компьютера, имитирующего личность или интеллект, лежат механистические физические принципы, а практическая работа ЭВМ сводится к списку инструкций той или иной сложности. В этом состоит «тезис Черча», согласно которому любая схема операций над символами может быть выполнена современным компьютером. Для гипотетического разумного компьютера нет исключения из этого правила. Внешнее формальное поведение человека может быть описано с помощью системы символьных операций. В соответствии с «тезисом Черча» все сведется к программе команд, число которых может быть большим, исчисляемых миллионами. Поэтому никому не удалось даже приблизиться к решению задачи формально-символьного описания человеческого поведения.

 

М. В. Большой объем в данном случае не является препятствием. Во-первых, даже сегодняшние программы включают в себя порядка сотен миллионов инструкций и более. Большинство состояний человеческого поведения может быть построено в соответствующем базисе из ограниченного набора нескольких сотен или тысяч базовых состояний путем различных символьных преобразований.

 

Здесь я хотел бы вкратце изложить те идеи, которые могли бы лечь в основы такой гипотетической машины. С точки зрения психофизиологии поведение человека разбивается на следующие этапы. Первый этап — распознавание образа — зрительного, слухового и т.д. Затем производится операция сложной классификации, когда образ расчленяется на группы (классы) базовых признаков, по уже известным машине; и выделение еще неизвестных ранее признаков. Память машины хранит наборы этих признаков и соответствующие каждой группе операторы в виде матриц (массивов) элементов. Поступающий образ преобразуется в символьный ряд, каждый член которого представляет соответствующий элемент матрицы и применяемый оператор. На следующем этапе производится формирование реакций на возникший раздражитель. Здесь, помимо уже существующих операторов, могут примешиваться специально введенные стохастические процессы, которые будут порождать в некоторых случаях непрогнозируемые реакции. И на последнем этапе производится анализ поступивших реакций, когда новые операторы могут заносится в нашу базу.

 

В результате работы такой программы, уже через некоторое время она накопит большое количество разнообразных состояний и отвечающих им операторов, благодаря чему поведение машины будет чрезвычайно нетривиальным. На определенном этапе машина начнет перестраивать внутреннюю структуру уже собственно управляющих программ, а не только массивов данных, что будет означать уже реально работающий интеллект, подобный человеческому.

 

В. К. Как бы совершенно ни была устроена машина, она остается машиной и всегда действует по определенной программе. Ну и, наконец, самое главное — она не является личностью, то есть не имеет ощущения, восприятия и сознания. В Ведах есть очень интересный рассказ о жизни на высших планетах Вселенной, где обитают существа с более высоким интеллектом, чем на Земле. Во дворце одного царя гостей в приемной встречает услужливый дворецкий, который радушно встречает их и мило беседует, развлекая гостей. Когда настает время приема, он провожает их к царю. Но представьте себе изумление гостей, когда они узнают, что любезный дворецкий — не более, чем искусно сделанный автомат!

 

Уникальная программа

 

П. Т. Р. Томпсон в своем исследовании гипотетически допускает, что такое описание осуществлено и выражено в виде уникальной компьютерной программы. Что же мы узнаем о «сознании» машины? Во-первых, несмотря на свою сложность и уникальность программы, такой компьютер будет вести себя примитивно и запрограммирован — каждый момент времени будет выполняться лишь одна инструкция, а миллионы других инструкций будут пока пассивно лежать в «памяти».

 

М.В. Это совершенно неверно, современные компьютеры могут выполнять одновременно большое количество команд — несколько тысяч и гораздо больше. Сведения, приводимые Томпсоном, сегодня технически устарели.

 

П. Т. Пусть так, но даже с большой натяжкой «память» машины нельзя назвать сознанием. Это лишь кладовая сведений, закодированных команд и чисел, которая не открывается без команды извне. Где же тогда, спрашивает Р. Томпсон, в каком месте этой сложной машины компьютер обретает сознание? Интуиция нам подсказывает — нигде! Да, нигде. И операции самого ЦП, последовательно выполняющего сложную программу, никак нельзя назвать сознательным восприятием мыслей и чувств.

 

В. К. Компьютер можно считать упрощенной моделью ума. Ум человека также выполняет задание своего «оператора» — личности, находящейся в данном теле. Так что аналогия с компьютером может иметь место, но только не в механистической, а в теологической модели.

 

П. Т. В основе работы обычного компьютера лежат те или иные физические процессы, а элементарные операции — это набор символов, за которыми стоят абстрактные свойства физических процессов. В ходе работы компьютера в нем лишь производятся те или иные электрические преобразования по схеме его физической структуры. Мы видим, что места для души и реального сознания здесь нет.

 

В. К. Компьютер — это автомат, который воплощает волю своего создателя. У него нет никакой независимости. Даже самому совершенному компьютеру, способному решать сложнейшие задачи, требуется оператор, который бы включил питание и запустил программу.

 

М.В. Такой вывод возникает вследствие непонимания подходов, используемых в теории искусственного интеллекта. Выше мы указали, что построение саморазвивающейся программы, проявляющей нетривиальные свойства возможно. Упрощенные модели этих программ есть уже сейчас, они реализуются, например, в компьютерных играх и, уверяю вас, создатели уже не всегда могут обыграть свои творения!

 

В реальности нас окружает огромное количество автоматизированных систем, которые были разработаны как раз для того, чтобы действовать без вмешательства человека! Тот факт, что они кем-то были созданы, не разрушает картины, — ведь и у вашего интеллекта есть создатель! Сейчас программы пишут люди, со временем их будут писать другие программы — вот и все.

 

Сознание машины и человека

 

П. Т. Роль оператора невелика, а вот создатели программ могут многое. Ученые, занимающиеся искусственным интеллектом, ищут выход в идее иерархической организации компьютерных программ. Сознание машины у них ассоциируется с высшими уровнями разумной программы. На высших уровнях происходит преобразование символов, соответствующих высшим сенсорным процессам и преобразование мыслей. Попробуем проследить, как на высших уровнях иерархии, по мысли приверженцев теории искусственного интеллекта, у машины появляется Сознание. Допустим, что вслед за нижними уровнями, которые описываются посредством элементарных операций, следует еще несколько последовательных уровней. На каждом из них определяются математические операции все возрастающей сложности. Затем появляется уровень, на котором символы начинают соответствовать основным составляющим мыслей, чувств и ощущений. Наконец, появляются высшие уровни, описывающие сложные элементы сознания и мышления.

 

В. К. Немного напоминает теорию эволюции по Дарвину, не правда ли? Вначале была мертвая материя, затем в результате случайных взаимодействий появляются макромолекулы, затем создаются клетки, затем —п ростейшие организмы, затем — жучки, паучки, затем — земноводные, млекопитающие и, наконец — обезьяны и человек. Как по мановению волшебной палочки!

 

П. Т. Согласен, это мало похоже на истину. Итак, по данной теории, сначала у машины идут бессознательные, а потом сознательные уровни. Огромные программы как бы обязаны обладать Сознанием. Р. Томпсон сравнивает длинную машинную программу с пространной речью, которая в итоге содержит мысли, тогда как составные ее части (отдельные слова или группа слов) не несут законченной смысловой нагрузки.

 

Однако, как бы ни старались программисты одной лишь длиной и сложностью программы сделать машину сознательной, она не достигнет реального сознания, обладающего определенными свойствами высшего порядка.

 

В. К. Таким образом, если я правильно понял, ученые полагают, что по мере роста иерархической сложности компьютера, у него происходит автоматическое появление сознания? Неплохо было бы привести хоть одно доказательство этой гипотезе.

 

М. В. Хорошо бы определиться, что же вы понимаете под словом «Сознание». Звучавшие до сих пор ссылки на «Бхагавад-гиту» и т.п. ненаучны и мы не можем принять их за основу обсуждения.

 

С нашей точки зрения, Сознание — это вовсе не набор символьных операций, хотя Томсон приписывает нам эту нелепую точку зрения, которую затем успешно опровергает. Мы считаем, что Сознание проявляется на уровне организации этих символов. То есть, если, например, совокупность пятен краски на бумаге является осмысленным текстом, а не просто грязью, то это проявляется на уровне их организации, а не в физических свойствах бумаги и краски, не так ли? Это, конечно, весьма непростой философский вопрос. Но поскольку наука, а тем более техника, должны быть практичными, то мы принимаем такое определение. Для этой цели был разработан объектный метод построения алгоритмов, с помощью которого иллюстрировался вышеприведенный пример с моделью разумной машины. Такой метод позволяет создавать очень сложные, легко надстраиваемые, иерархические структуры, причем изначальное информационное содержание их может быть невелико. Я отмечаю это специально для профессора Томпсона, который рассматривает данный вопрос в 5-6 главах своей книги. Хотя по существующим оценкам, техническая база пока отстает от возможностей мозга более чем в тысячу раз, но эта пропасть вполне преодолима.

 

В. К. Вы хотите сказать, что эти иерархические структуры представляют Сознание? Боюсь, что мы говорим на разных языках. Согласно нашему определению, Сознание — это способность индивидуума воспринимать окружающую действительность, в том числе и самое себя, как личность. Могут ли ваши сверхсложные иерархические структуры воспринимать или осознавать себя?

 

М. В. Очевидно, что проблема заключена в различном определении понятия «Сознание» в науке и в Священных писаниях.

 

П. Т. Обратимся к Р. Томпсону. Сознание индивидуума субъективно, поскольку в значительной мере базируется на собственном опыте, но само по себе, тем не менее, объективно, поскольку природа всех людей одна и та же. Поэтому естественным является предположение Р. Томпсона, что Сознание других людей подобно моему сознанию. Приняв это предположение, Томпсон приходит к выводу, что Сознание есть объективно существующий аспект реальности, которое имеет тенденцию вступать в связь с определенными материальными структурами, например, телесными оболочками живых существ. В чем же суть сознания? Р. Томпсон предполагает, что она в осведомленности о мыслях и чувствах, которые мы ощущаем и знаем, что мы их ощущаем.

 

Однако, это определение сознания не полно, поскольку не охватывает такие важные критерии и свойства сознающей личности, как способность обладать знанием об окружающем мире. Тем не менее, определение сознания по Томпсону непротиворечиво и вполне приемлемо. Оно, несомненно, указывает, что так называемые «думающие машины» вряд ли достигнут подобной высоты в своем машинном сознании.

 

В. К. Компьютер никогда не будет сознающей себя личностью. Я в этом уверен, ибо это не просто утверждение ведических писаний. В «Бхагавад-гите» Кришна неоднократно подчеркивает, что живые существа — это высшая, трансцендентная энергия Господа. Кроме того, весь наш опыт и здравый смысл говорят, что живое существо суть нематериальная природа, независимая от грубой материи. Материалисты, однако, верят, что Сознание есть функция материи. Их право верить во что угодно. Но в материалистической концепции множество пробелов, поэтому создается впечатление, что ее сторонники хотят доказать свою правоту любой ценой, независимо от каких бы то ни было аргументов. Например: все живые существа должны обязательно иметь такие функции, как питание, сон и размножение. Эти функции существуют во всех формах живых существ, даже в растениях. Каким же образом размножается компьютер?

 

Компьютеры будущего

 

П. Т. Трудно что-либо возразить. Может быть нечто подобное появится в будущих столетиях?

 

М. В. Существуют теории, предполагающие в будущем построение Компьютеров на основе гигантских молекул, помещенных в питательные среды. Они легко смогут «размножаться», «питаться» и так далее. Есть и другие предположения, но в любом случае, Компьютеры не всегда будут такими, как сейчас.

 

В. К. Даже если это со временем удастся, в чем я сомневаюсь, то ничего в принципе не изменится. Материальная природа создала совершенный механизм, согласно которому все существа питаются, размножаются, и живут своей жизнью независимо от тяжких усилий современных ученых создать нечто подобное. Более того, еще до появления человека на земле, согласно научным данным, существовали животные, растения и т.д. Или мы должны предположить самопроизвольную эволюцию живых существ из неживой материи, во что верят материалисты, или следует предположить существование более совершенного Ученого, который запланировал и сотворил окружающий мир. Но самое, конечно, удивительное — живая душа с ее сознанием, обладающая чувственным восприятием, умственными способностями, разумом и т.д.

 

М. В. Вы можете доказать существование вашего совершенного Ученого?

 

В. К. Показать существование Высшего разума не так уж трудно — это вопрос здравого смысла. Думаю, что вы также близки к тому, чтобы признать его. Другое дело, что довольно трудно доказать его присутствие так называемыми «научными» методами, основанными на эксперименте. Все наши проявления жизни: мысли, чувства, ощущения — являются лишь продолжением мыслей и чувств изначального Творца, которого мы и считаем совершенным Ученым.

 

П. Т. «Мысли» и «чувства» Компьютера, пишет Р. Томпсон, могут лишь соответствовать высшим абстрактным свойствам Компьютерной программы, то есть собственно не самого Компьютера. Эти свойства могут отражаться в виде иерархии символических операций. Даже если допустить, что подобные свойства существуют в виде абстракции, они все же не присутствуют физически в электронной схеме и не могут соответствовать реальным субъективным переживаниям и чувствам, чего не скажешь о сознании человека.

 

М. В. Наша точка зрения гораздо более реальна и практична. Мы определяем уровень сознания непосредственным образом, по производимым прямым и косвенным действиям. Если машина выигрывает в шахматы, значит в этой сфере ее интеллект достаточно высок!

 

В. К. Я хочу еще раз подчеркнуть: Компьютер — всего лишь инструмент в руках опытного инженера. Инструмент не способен сам по себе не только играть в шахматы, но и умножить 2 на 2. Компьютер был, во-первых, построен талантливым инженером, а во-вторых, управляется знающим оператором.

 

М. В. Однако, вы сами ранее утверждали, что и живые существа не возникли самопроизвольно, и они всегда находятся под контролем неких высших сил. В чем же разница? У Компьютера есть создатель-инженер, и у нас с вами то же самое.

 

Поэтому вы должны четко объяснить — в чем различие между этими двумя системами: «Высший Разум — человек» и «человек — Компьютер».

 

В. К. Это уже нечто новое. Значит, вы признаете существование Высшего Инженера, создавшего этот мир. Разумеется, Компьютер создан инженером, так что с этой точки зрения, аналогия существует. Но существенная разница в том, что разум инженера, создавшего Компьютер, несопоставим с разумом Творца, создавшего Вселенную со всеми ее звездами, планетами, Солнцем и всевозможными формами жизни. Поэтому творение инженера, даже самого талантливого, остается машиной — инструментом в руках человека. Он не обладает какой-либо свободой воли, независимостью, оставаясь игрушкой в руках его создателя. Любой же человек, даже самый примитивный, является личностью со своими чувствами, желаниями, свободой воли. Он может не играть столь искусно в шахматы, но человек принципиально не сопоставим с самым совершенным Компьютером, так как является личностью, а не просто сложным механизмом.

 

П. Т. Компьютер не способен обладать субъективным сознательным опытом, подобным человеческому. Он может, конечно, воспринимать цвета, звуки и выраженные в числах или текстах мысли. Он обладает конкретной физической структурой. Р. Томпсон пишет, что мы не можем напрямую связать сознание Компьютера с конкретными физическими процессами в нем, как и не можем утверждать, что сознание присутствует в машине при выполнении отдельных элементарных операций.

 

Как истинные патриоты своей области, исследователи искусственного интеллекта утверждают, что сознание Компьютера будущего может соответствовать абстрактным свойствам высокого порядка, присущим физическим состояниям Компьютера, свойствам, обозначаемым словами «мысли» и «чувства», которые являются атрибутами настоящего сознания.