Мне квалиа и чашку синего кофе, пожалуйста

В предыдущей главе мы рассмотрели вопрос, способны ли чат-боты понимать. Теперь мы увидели, что можно создавать мозг из искусственных нейронов. Давайте примем в расчет эти нейроны и посмотрим на вопрос понимания под другим углом. Человеческие существа понимают, у них есть сознание, и они воспринимают квалиа. Квалиа — термин, относящийся к нашему внутреннему опыту и восприятию. Возьмем, например, вкус кофе или синеву ясного неба. Все мы знаем, что это такое, но как объяснить это другому? Что такое «кофейность» или «синева»? Если принять, что сознание определяется мозгом (есть исследователи, которые так не считают), тогда нечто в проявлениях нейронов и мозговых структур порождает поведение и простые действия, возникновение смысла, квалиа и даже такие чувства, как любовь. Если точно смоделировать важные для создания этого внутреннего опыта части мозга, то, возможно, наш искусственный мозг тоже их испытает — и квалиа в том числе. Здесь нужно правильно провести абстрагирование и создать модель для всех этих частей мозга, опуская только не имеющие большого значения. Но найти и выделить их — огромная задача для нейронауки и информатики.

В то же время мы начинаем понимать, что активная работа нашего мозга ведется все-таки не нейронами. Есть и другие клетки, которые, вероятно, обрабатывают информацию, и другие действующие в мозге нейромедиаторы, которые влияют на работу этих клеток.

Разные типы информации отбираются для обработки в разных частях мозга, но каким-то образом все это объединяется, чтобы дать нам... собственно, нас самих и наше понимание мира. Но если мы посмотрим на один нейрон, скажем, в миндалевидном теле — участке мозга, который по идее порождает эмоции, то увидим, что он просто или возбуждается, или нет в зависимости от силы поступающего электрохимического сигнала. Он не понимает, что на более общем уровне вносит свой вклад в возникновении у индивида чувства страха. Это просто переключатель, и он просто переключает.

Даже при наличии новых технологий так называемого глубокого обучения, когда значительный рост доступной вычислительной мощности и новые математические алгоритмы позволяют программировать нейроны на многих уровнях, чтобы они решали полезные задачи вроде разработки новых лекарств, тегирования изображений и предсказания погоды или ситуации на фондовом рынке, мы до сих пор не понимаем, как в мозге формируются многие наши человеческие характеристики. Есть исследователи, которых интересует, как со временем меняется характер мозговой активности. Они создали хитроумные электронные схемы под названием импульсные нейроны, которые посылают последовательности электронных импульсов, имитируя возбуждение и расслабление настоящих нейронов. Эти ученые надеются, что, изучив зависящие от времени свойства этих систем, они смогут лучше понять работу мозга и создать новые приложения. Очевидно, что для понимания работы мозга абсолютно необходимо правильное абстрагирование, и хотя в этой области был достигнут значительный прогресс, она по-прежнему остается волнующим исследованием Неизвестного.

Изучение человеческого мозга и поведения, а также сравнение их с искусственным интеллектом все еще требуют ответа на глубокие философские вопросы. Однако, располагая компьютерами с искусственным разумом, мы можем использовать их для исследования этих глубоких вопросов, которые подводят нас к самой сути человеческого, ну и по ходу дела создавать полезные инструменты и программы, которые помогают нам в жизни. У вас будут собственные соображения по этим вопросам — и они тоже будут верными. В конце концов, вы человек.

Глава 8

Делаем робота-мошенника

Мы рассмотрели основные принципы создания мозга и виртуального собеседника — и знаем, что некоторые из них перешли на Темную сторону вычислительных систем. Теперь давайте все это объединим. Пора рассмотреть вопрос, как создать простейшего бота, который будет дурачить людей. В результате мы поймем, почему те, кто владеет вычислительным мышлением, — будь то люди или компьютеры — должны иметь представление об этике. Роботы появились на сцене с «мыслью» о мировом господстве, поэтому мы рассмотрим, почему им никогда не удастся управлять миром.

Разум-предсказатель