Понимает ли вас виртуальный собеседник?

Входим в китайскую комнату

Системы, построенные на порождающем правиле «ЕСЛИ — ТО», как наш чат-бот, могут выполнять сложные операции, которые имитируют деятельность человеческого мозга в конкретных обстоятельствах. Конечно же, настоящий вызов здесь — создать ИИ или робота, который справится со всем, с чем справляется человек, а не будет выбирать единицы информации, что полегче. Способность видеть, слышать и чувствовать мир с высокой скоростью и точностью, общаться письменно и устно, влюбляться, писать музыкальные хиты или быстро принимать разумные решения, когда значительная часть информации неизвестна или неточна, — все это позволяет нам выживать в нашем сложном мире. Кроме того, мы, люди, понимаем, чтó мы делаем, в отличие от многих ИИ, для которых это является проблемой. ИИ следует правилам, но не понимает.

Философ Джон Сёрл показал эту проблему в мысленном эксперименте под названием китайская комната. Представьте, что вы совсем не знаете китайского языка — не пишете и не говорите на нем, и оказались в запертой комнате, где есть книги с правилами перевода с китайского языка. Через щель в двери вы получаете сообщения от носителей китайского. Вы ищете в книгах нужные правила, касающиеся написанного, действуете в соответствии с ними, а потом просовываете результат обратно в щель. Вы поступаете в точности как виртуальный собеседник, который следует правилам о том, что нужно «говорить» в ответ на полученные сообщения. Носители языка за дверью получают осмысленные ответы на свои вопросы, написанные на китайском. Значит, сама комната или что-то внутри нее понимает китайский, не так ли? Но вы знаете, что всего лишь следовали сложному набору правил, которые дают результат. Вы не понимаете ни ответы, ни вопросы. Так «понимает» ли китайский комната и находящийся в ней человек? Или она просто симулирует способность понимать по-китайски? Сёрл называет первый вариант сильным ИИ, а второй — слабым ИИ. Большинство людей сказало бы, что комната ничего не понимает. Все понимание имеется у людей, которые придумали правила. Этот мысленный эксперимент и поднятые им важные вопросы о природе понимания вызвали массу споров в среде философов и программистов. Попробуем переиначить его на свой лад.

Клингонская комната

Многие люди владеют азами китайского языка, а значит, не подходят для участия в этом мысленном эксперименте. Кроме того, китайский — «мудреный» язык, на котором говорят миллионы. Он развивался веками и отличается особенным построением фраз и набором исключений. Это живой естественный язык огромного масштаба и сложности. Было бы очень трудно создать правила, необходимые для описанного эксперимента, и это несколько его обесценивает. Давайте выберем более простые и реалистичные условия.

Говорите ли вы по-клингонски? Для мысленного эксперимента подойдет любой язык, который понимает хоть кто-нибудь. Клингонский — это пример нового языка с собственной лексикой, грамматикой и алфавитом, который создал Марк Окранд, отдав дань миру научно-фантастического сериала «Звездный путь». В нашем случае он выступит в роли полезной и более простой альтернативы китайскому. Это язык с синтетическим синтаксисом: нам с самого начала точно известны грамматические правила составления предложений. Мы точно знаем, как был создан этот язык, каковы его правила и синтаксис, его семантика (значение слов и предложений) и то, как в нем работают глаголы и существительные. На этом внеземном языке бегло говорят некоторые люди. Из этого легко вывести, что написать книги по переводу с клингонского для нашей комнаты реально. В особенности потому, что мы точно знаем, чтó можно выразить на этом языке. В основном, и это неудивительно, на нем говорят о борьбе, чести и космических кораблях. Например, слово, обозначающее «капитанский мостик» космического корабля, появилось на ранних этапах. И лишь много лет спустя в язык вошло понятие о «мосте» как способе перейти водную преграду. Это довольно экстремальный искусственный пример эволюции семантики — смыслового значения единиц языка и того, как возникает общее понимание значения слова. В настоящих человеческих языках такой процесс часто занимает столетия, и его трудно отследить.

Очевидно, что создать клингонскую комнату можно. Так поймет ли человек, находящийся в ней и ничего не знающий об этом языке, вопросы на клингонском, если будет отвечать так же, как в китайской комнате?

Поворот сюжета

Давайте изменим условия, чтобы создать собственный мысленный эксперимент. Возьмем одну китайскую комнату, где вопросы за дверью задают китайцы, и одну клингонскую комнату, где вопросы задают самые знающие фанаты. Будут ли люди у дверей китайской комнаты ощущать, что она хуже понимает их язык, потому что книги с правилами перевода было очень трудно написать и не всегда удалось в точности передать детали (да и можно ли зафиксировать все нюансы настоящего живого языка)? Будут ли наши «клингонцы», чья картина мира изобилует понятиями, связанными с честью и борьбой, чувствовать, что их комната дает более качественные ответы, потому что ей нужно освоить гораздо меньшие объемы? Если это так, то, возможно, дело в том, что в книгах с правилами перевода должны быть учтены все значения (семантика), а также все слова и грамматика (синтаксис). Значит ли это, что, если бы мы создали достаточно уточняющих правил, охватывающих весь реальный мир, комнаты обрели бы способность понимать?

Как вы думаете?

Глава 7

Создаем мозг

Мы не будем пытаться сразу же сконструировать интеллект, но, используя вычислительное мышление, начнем создавать простой мозг постепенно и с нуля. Это поможет нам изучить, как на самом деле работает человеческий мозг, состоящий из множества связанных между собой нервных клеток, и как формируется наше сложное поведение. В итоге мы начнем понимать, как создать искусственный интеллект, который не просто ведет себя как человек, а делает это, потому что его мозг работает похожим образом. Возможно, что, если получится точно воссоздать мозг, в нем зародится интеллект.

Создаем обучающийся мозг