Кто оплачивает искусственный интеллект, тот и заказывает музыку

Росс Андерсон

Преподаватель техники обеспечения безопасности в компьютерной лаборатории Кембриджского университета; автор книги «Техника обеспечения безопасности»

Грядущие потрясения будут исходить не от машин, которые мыслят, а от машин, которые используют искусственный интеллект, чтобы дополнить наше восприятие.

Миллионы лет другие люди видели нас с помощью того же инструментария, каким пользовались мы, чтобы видеть их. У нас практически такие же глаза, что и у наших визави, и практически такие же зеркальные нейроны. В любой из культур у людей практически одинаковые сигнальные механизмы и системы ценностей. Потому, когда мы пытаемся кого-то обмануть или обнаружить обман в действиях других, то играем на равных. Я могу надеть на пенис большую тыкву, чтобы выглядеть более мужественным, вы можете раскрасить грудь полосами белого и охры, чтобы выглядеть более устрашающим. Цивилизация сделала эти игры более утонченными: я сигнализирую о классовой принадлежности, надевая изготовленный на заказ пиджак с четырьмя пуговицами на манжетах, а вы сигнализируете о богатстве, надевая большие часы. Но наши игры были бы совершенно понятны нашим предкам из времен неолита.

Что изменилось, когда компьютеры оказались незаметно встроены повсюду, так это то, что мы теперь оставляем цифровой след, который может быть проанализирован системами искусственного интеллекта. Майкл Косински, психолог из Кембриджа, продемонстрировал, что вашу расу, уровень интеллекта и сексуальную ориентацию можно достаточно быстро вывести из вашего поведения в социальных сетях: в среднем достаточно всего четырех «лайков» на Facebook, чтобы составить представление о гетеро– или гомосексуальности. И если в прошлом гомосексуальные мужчины могли выбирать, носить им футболку Out and Proud или нет, сейчас вы понятия не имеете, что на вас надето. По мере развития искусственного интеллекта вы по большей части показываете себя в истинном свете.

Это как если бы мы эволюционировали в лесу, где все животные обладают только черно-белым зрением, и вдруг появился бы хищник, который может видеть цвета. Неожиданно половина вашего камуфляжа перестала бы работать, а вы б даже не знали, какая именно половина!

На данный момент это все кажется очень интересным, если вы рекламщик, поскольку позволяет вам понять, как тратить меньше денег. На улице такого пока нет. Но полиция работает над этим. Какой коп не захотел бы приложение для Google Glass, подсвечивающее тех прохожих, которые ранее совершали насильственные преступления, возможно работающее совместно с радаром W-диапазона, чтобы видеть, у кого из них есть при себе оружие?

Следующий вопрос: только ли у государственных органов окажутся продвинутые системы восприятия или же они станут доступны всем? Будем ли мы все через двадцать лет носить очки дополненной реальности? Как изменятся отношения власти и подчинения? Если полицейский может просматривать записи о моих задержаниях, когда глядит на меня, могу ли я увидеть, не выдвигалось ли против него обвинений в жестоком обращении с задержанными? Если политик может увидеть информацию о том, поддерживаю ли я какие-либо партии или независимых кандидатов, могу ли я увидеть информацию о том, как он голосовал по трем вопросам, которые меня интересуют? Черт с ним, с правом на ношение оружия, как насчет права носить Google Glass?

Восприятие и познание уже не будут выполняться в голове индивида. Как сейчас мы обращаемся к Google и интернету как к средствам протезирования памяти, так мы станем использовать системы искусственного интеллекта, связанные с миллионами машин и сенсоров, для протезирования восприятия.

Но стоит ли им верить? Обман уже не будет исключительной прерогативой людей. Правительства станут влиять на нашу картину мира посредством инструментов, которые мы используем для усовершенствования восприятия, точно так же как Китай осуществляет цензуру результатов поиска, а рекламодатели на Западе предлагают вам продукты сообразно вашим прежним запросам и посещениям страниц. Как еще можно будет содержать такую систему?