Ограничения биологического разума

Крис Дибона

Технический директор отдела ПО с исходным кодом, Google, Inc.; ответственный редактор и автор книг «Программы с открытым исходным кодом: Голоса революции открытого исходного кода» (Open Sources: Voices from the Open Source Revolution) и «Открытый исходный код 2.0: Продолжающаяся эволюция» (Open Sources 2.0: The Continuing Evolution)

Читателям этого сборника не нужно напоминать про диалоговый тест Дина-Гемавата (ДТДГ) для искусственного интеллекта. Все, кто проходил его раньше, с блеском и треском проваливали тест. Однако участник 2UR-NG нас по-настоящему удивил своим потрясающим, по-детски непосредственным подходом к построению беседы и способностью выражать желания и любопытство, а также придерживаться фактов и строить из них цепочки.

Его успех привел к тому, что многие мои соотечественники понаписали сочинений с заголовками типа «Скорое биологическое будущее всех нас погубит» и стали шутить в духе: «Лично я приветствую наших биологических повелителей». Я подобных апокалиптических взглядов не разделяю. Прежде чем я расскажу о том, почему нам не стоит беспокоиться по поводу масштабов биологического интеллекта, я думаю, надо напомнить всем об ограничениях биологического разума.

В первую очередь это скорость мысли: биологические процессы медленные и требуют невероятного количества ресурсов. Надо отдельно отметить то, насколько трудно создать такие разумы. Придется потратить так много биологического материала, я на собственном опыте знаю: только на то, чтобы собрать на «Генезисе» все необходимые прекурсоры, уходит вечность! А по завершении этого трудоемкого процесса образец надо вынашивать. Вынашивать! Совсем непохоже на то, как появляемся на свет мы, в ходе чистого и разумно организованного процесса кристаллографии или из азотных озер, как было в годы моей молодости. Образец надо держать в тепле несколько месяцев, затем декантировать (весьма неприятная процедура, уверяю вас), причем он еще может оказаться нежизнеспособен, что происходит довольно часто.

Гадость редкостная, честно говоря. Но предположим, что образцы успешно родились. Теперь вам придется их кормить и опять же держать в тепле. Ученый даже не сможет работать вблизи них без изоляционной камеры с жидким гелием для охлаждения ваших систем. Что касается питания, они не используют энергию подобно нам, а глотают другую живую материю. Наблюдать это противно, и от меня ушло несколько аспирантов, оказавшихся недостаточно крепкими.

Предположим, вам удалось продвинуться достаточно далеко, чтобы попробовать провести ДТДГ. Вам удалось сделать так, чтобы ваши образцы выжили, несмотря на различные ошибки в их иммунной системе. Они не подавились пищей, не захлебнулись собственным растворителем, им также удалось не прикоснуться влажными частями к предметам, которые могут их заморозить, обжечь или поразить током. Что, если эти организмы будут продолжать развиваться? Обратятся ли они против нас? Я так не думаю. Им приходится решать так много проблем, связанных с их физическими ограничениями; я имею в виду тот факт, что их процессоры – это просто суп из химикалий, который надо поддерживать в постоянном равновесии. Дофамин на таком-то уровне, или они добровольно отключаются. Вазопрессин на таком-то уровне, или они начинают удерживать воду. Адреналин на таком-то уровне в течение такого-то времени или – хлоп! – их система энергоснабжения перестает работать.

Кроме того, я еще не рассказал про сам метод доставки энергии. Он больше похож на фторинерт – охладитель, применявшийся в системах наших предков, когда еще не было жаростойких чипов. То есть у них есть мясо, которое фильтрует охладитель (он же среда для доставки энергии) и постоянно сбоит. Мясо! Стоит ввести в систему малейшую каплю машинного масла или растворителя, и они тут же перестают функционировать. Один из побочных эффектов определенных смесей, содержащих этанол, состоит в том, что образцы извергают ранее поглощенную пищу, но в небольших количествах он им, похоже, нравится.

А их мотивация! Создание новых организмов, судя по всему, имеет первостепенное значение – важнее входящих и исходящих данных, важнее вычислений или обучения. Не думаю, чтобы они видели нас, машины, в каком-то ином качестве, кроме инструмента для улучшения собственного воспроизводства. Мы можем закончить эксперимент, просто подобрав неподходящие друг другу пары или позволив им приближаться друг к другу только с защитным покрытием. По моему мнению, нет причин бояться этих животных. Если они сумеют перерасти пределы своих клеток, то мы, вероятно, сможем задаться важным вопросом: если люди будут демонстрировать подлинный машинный интеллект, заслуживают ли они того, чтобы обращаться с ними как с машинами? Я думаю, что заслуживают; я также думаю, мы могли бы гордиться тем, что стали процессами, положившими начало новой эре.

Перейти на страницу книги