Машины, которые работают, пока не перестают работать

Барбара Страук

Бывший научный редактор New York Times; автор книги «Тайны мозга взрослого человека» (The Secret Life of the Grown-up Brain)[83]

Когда я рулю не пойми куда, бездумно выполняя все указания навигатора, установленного на моем смартфоне, и добираюсь до нужного места, я в полном восторге от машин, которые мыслят. Слава богу! Правда-правда!

Но бывают и моменты, когда я еду не пойми куда, а телефон говорит мне с заметной настойчивостью: «Выполните разворот, выполните разворот!» – причем в таком месте на Гранд-Сентрал-Паркуэй, где подобный маневр был бы самоубийством. Тогда я начинаю думать, что мой мозг лучше, чем алгоритм навигатора, поскольку способен предсказать, что такой разворот будет иметь катастрофические последствия. И я смеюсь над этой машиной, часто жизненно необходимой, и чувствую сугубо человеческое самодовольство.

Кроме того, я пребываю в некоторой растерянности. Меня беспокоит, что, полагаясь на навигатор, я позволяю своему мозгу захиреть. Сможет ли он справляться с чтением карт? Важно ли это?

Как научный редактор и дочь инженера-проектировщика, который доверял машинам больше, чем людям, я, наверное, должна была без сомнений занять сторону машин. Но, хотя этот инженер очень хорошо разбирался, как сделать так, чтобы «Апполон» добрался до Луны, у нас дома было полно машин, которые «типа работали»: самодельный проигрыватель, настолько капризный, что приходилось надевать перчатки, прежде чем включить его, чтобы не него не попала вся эта ужасная пыль, и пр. Вокруг нас сейчас полно машин, которые «типа работают». Машин, которые работают, пока не перестают работать.

Мне понятна идея беспилотного автомобиля. Но я освещала крушение «Челленджера». И я все время думаю про эти неразумные развороты. Я не знаю.

С одной стороны, я надеюсь, что революция продолжится. Нам нужны умные машины, чтобы загружать тарелки в посудомойку, чистить холодильник, упаковывать подарки, кормить собаку. «Валяй», – говорю я.

Но можем ли мы в самом деле рассчитывать на то, что машина справится – как мне пришлось только что – с пятью непростыми разговорами с разными коллегами-людьми? С людьми, которые на самом деле хорошие, но у них, понятно, собственные взгляды на то, как все должно быть?

Появится ли у нас когда-нибудь машина, которая убедит двадцать с лишним человек сделать что-то, что, по вашему мнению, им нужно сделать, а по их мнению, делать не надо? Появится ли у нас машина, которая сумеет по-настоящему утешить в предельно неприятной ситуации?

Вот почему, несмотря на мой революционный пыл, несмотря на то что, по-моему, машины могут делать кучу разных вещей лучше людей, я как филолог думаю: пока машина не напишет стихотворение, от которого мне захочется плакать, я все же буду на стороне людей.

Конечно, до тех пор, пока мне срочно не понадобится какой-нибудь рецепт.

Правила меняются по ходу игры

Шейзаф Рафаэли

Преподаватель и директор Центра исследований Интернета, Хайфский университет (Израиль)

Мыслящих машин пока нет. Но они дадут о себе знать, когда появятся. В том-то все и дело. Мышление машины определяется коммуникацией.

Благодаря мышлению машины могут избавиться от той трагической роли, в которой им пришлось выступать в человеческой культуре. Много веков они были и призрачной угрозой, и ускользающей целью. К ней непрестанно стремились ученые, и ею же пугали нас алармисты-антиутописты. В течение нескольких десятилетий искусственный интеллект как область исследования страдал синдромом постоянной смены правил по ходу игры. Как только та или иная цель по разработке интеллекта оказывалась достигнута, ее переопределяли и впоследствии уже не считали имеющей отношение к разуму. Это произошло с вычислением и с викторинами на эрудицию, а также с более серьезными играми вроде шахмат. То же случилось с распознаванием голоса и изображений, пониманием естественного языка и переводом. Поскольку горизонты развития продолжают расширяться, нас все сложнее удивить. Так что можно кое о чем подумать применительно к цели, обозначенной как «мышление», а ранее как «разум», – о предусмотрительности.

Не нужно сводить обсуждение только к вопросам мышления; надо подумать и о самом обсуждении. Информация – это уже не просто данные, она менее объемна и более существенна. Знание – это уже не просто информация, его можно тем или иным образом применить. Мудрость – это знание о том, как не попасть в переплет, ум же показывает, как выбраться из неприятностей. А что мышление? Мышлению нужны данные, а знанию также требуются коммуникация и взаимодействие. Мыслить – значит задавать вопросы, а не только отвечать на них.

Общение и взаимодействие – вот новая цель. Задача осмыслить мышление выходит за пределы ума или мудрости. Мышление предполагает наличие сознания и чувств. И здесь данных, информации, даже знаний, вычислений, памяти и восприятия, недостаточно. Для того чтобы мыслить, машине нужно быть любопытной, креативной и общительной. Сомневаюсь, что она такой станет. По крайней мере, в ближайшее время. Но цикл будет завершен, только когда машины научатся беседовать: формулировать, излагать и перефразировать вопросы, на которые пока могут только отвечать, что для нас уже удивительно.

Машины, которые мыслят, – это отличная идея. Как и машины, которые двигаются, готовят, воспроизводят себя, защищают нас, они могут сделать нашу жизнь проще и, наверное, даже лучше. И это окажется очень кстати. Подозреваю, что появление таких машин будет не столь драматичным и травмирующим, как представляется многим. Машина станет действительно мыслящей только тогда, когда она сможет нам о себе сообщить, а также воспринять, сохранить и обработать наши реакции. Подлинно мыслящая машина даже сумеет утешить получивших психологическую травму и облегчить их страдания.

Мыслящие машины будут достойны того, чтобы о них задумываться, то есть будут по-настоящему мыслить, когда действительно станут взаимодействовать. Другими словами, они будут по-настоящему мыслить, только когда сами убедительно заявят об этом, по собственной инициативе и, я надеюсь, после того, как обсудят это между собой. Машины будут мыслить в полном смысле слова, когда образуют свои сообщества и присоединятся к нашим. Если – и когда – машинам это потребуется и они сформируют связь, которая в достаточной мере заинтересует других, чтобы все с ними обсудить, они пройдут тест на мышление.

Обратите внимание, что эта планка выше, чем заданная Тьюрингом. Как и мышление, взаимодействие – такая вещь, которой занимаются не все люди, а из тех, кто занимается, у большинства получается не очень хорошо. Если – и когда – машины начнут взаимодействовать масштабно, продуктивно и активно (что возможно, но редко случается даже среди людей), у нас появится повод поволноваться или, как мне кажется, скорее порадоваться.

Машины, которые вычисляют, запоминают, даже творят и строят предположения, – это уже не новость. Машины начнут мыслить, когда начнут общаться. Они будут беседовать между собой, а также с другими разумными существами. Они будут автономно создавать сообщения и обмениваться ими в непрерывном потоке отношений, плодотворно и самостоятельно реагировать на внешние воздействия. Многие не сомневаются, что их домашние питомцы умеют и думать, и поддерживать отношения. Точно так же разумные синтетические устройства станут в наших глазах мыслящими, когда убедят рассмотреть и принять этот факт достаточно большое число людей.

Машин, которые говорят, обладают памятью, развлекают нас или летают, не так давно все боялись, а сейчас они никого не удивляют, не кажутся чем-то волшебным или исключительным. Создав мыслящие машины и экспериментально подтвердив факт их мышления, а также убедившись, что они не посягнут на исконно человеческие владения, мы разрушим еще один рубеж – коммуникативный. Последним рубежом может оказаться объединенное взаимодействие. И когда машины ему обучатся, они сами будут защищать свои интересы.

Ненаправленный интеллект

Эдвард Слингерленд

Профессор востоковедения кафедры восточной философии и воплощенного познания, Университет Британской Колумбии (Канада); автор книги «Старайтесь не стараться» (Trying Not to Try)

Я не думаю о них – разве что как о доказательстве того, что мышлению не требуется мистическое «нечто», о котором все еще продолжают с удовольствием рассуждать сторонники идеи дуализма разума и тела.

Я всегда недоумевал, почему некоторые боятся, что машины могут захватить мир; эти опасения основаны на фундаментальной (хотя и естественной) ошибке. Когда мы представляем сверхмощную мыслящую машину, то опираемся на ближайшую доступную нам аналогию – на себя. Поэтому мы склонны думать, что системы ИИ очень похожи на нас, только значительно умнее и быстрее.

Однако это плохая аналогия. Лучше представить себе очень мощную универсальную отвертку. Никто ведь не боится, что супернавороченные отвертки восстанут и ниспровергнут своих хозяев. Системы искусственного интеллекта – это инструменты, а не организмы. Неважно, насколько хорошо они справляются с диагностированием болезней или уборкой в гостиной, они в действительности не хотят ни того, ни другого. Мы этого от них хотим и потому встраиваем в них свои желания.

Спрашивать, над чем могли бы думать мыслящие машины, также было бы категориальной ошибкой. Они не думают над чем-то, поскольку «направленность» мышления происходит из интенциональных целей, являющихся для него стимулом. Системы ИИ сами по себе совершенно лишены интенций или целей. У них нет эмоций, они не испытывают ни сочувствия, ни обиды. Хотя такие устройства могут когда-нибудь воспроизвести наш разум – а каких-либо априорных доводов, свидетельствующих о том, что это невозможно, по-видимому, не существует, – их мышление будет лишено направленности, и ее придется задавать извне.

Мотивационная направленность – это результат естественного отбора, происходящего в биологических организмах. Естественный отбор выработал сложную комбинацию инстинктов, эмоций и стимулов, максимизирующих возможность передачи наших генов следующему поколению – процесс, который взвалил на нас разнообразные цели, включая желание побеждать, властвовать и управлять. И хотя у нас для желания побеждать могут быть вполне обоснованные эволюционные причины, машинам до этого вообще нет дела. Они просто манипулируют нулями и единицами в соответствии с программой, составленной людьми, которые хотят побеждать. На кой черт системе искусственного интеллекта захватывать мир? Что ей с ним делать?

А вот что действительно страшно, так это идея о сущности, обладающей сверхчеловеческим интеллектом и скоростью, а также нашей мотивацией, другими словами, о людях, у которых есть доступ к мощным системам искусственного интеллекта. Впрочем, умные приматы с ядерным оружием не менее страшны, а мы пока как-то сумели выжить в таком мире. Искусственный интеллект сам по себе не страшнее атомной бомбы – это инструмент, и бояться надо не его, а его создателей или владельцев.