Эмоции и эмпатия у суперинтеллекта

 

ИИ, о котором мы говорим сейчас, не похож на человеческий мозг - он создается с нуля. Поэтому вполне возможно, что он окажется не очень похожим на человека и у него не будет черт, которые мы связываем с наличием сознания у людей. Тем не менее некоторые из этих признаков познания,

 

 (стр. 143)

 

похоже, относятся к неотъемлемым элементам универсального интеллекта. В частности, осознание, цель и целостность, скорее всего, присутствуют в любом универсальном искусственном интеллекте, создавая впечатление определенного сознания. Что касается самосохранения, еще одной важной черты человеческого сознания, то хотя оно и может присутствовать в ИИ, но способно принимать незнакомые формы.

Последние признаки, связываемые с человеческим сознанием, - эмоции и эмпатия. С точки зрения чистого познания, компонент машинного обучения в универсальном искусственном интеллекте должен заметить статистические закономерности в поведении человека, соответствующие состояниям, которые мы называем эмоциональными. Если не обнаружить эти закономерности, будет потеряна возможность удобно сжать поведенческие данные человека в математическую модель, которую можно в дальнейшем эффективно применять для прогнозирования поведения человека. В свою очередь, такая математическая модель может информировать компонент оптимизации, позволяя ИИ работать с человеческими эмоциями и модулировать человеческое поведение. Короче говоря, надо ожидать, что суперинтеллектуальная машина будет знать нас лучше нас самих. <...>

 

(стр. 146)

 

 

В конечном итоге все определяется функцией подкрепления ИИ. С точки зрения познания «человекоподобные» эмоции - грубый механизм модуляции поведения. В отличие от других признаков познания, которые мы ассоциируем с сознанием, у универсального искусственного интеллекта нет логической необходимости вести себя, как будто у него есть эмпатия и эмоции. Если функцию вознаграждения спроектировать должным образом, то можно гарантировать хорошее отношение ИИ к человеку.

Однако исключительно сложно спроектировать функцию вознаграждения, которая гарантированно не дает нежелательного поведения. Как мы вскоре увидим, дефект в функции вознаграждения суперинтеллектуального ИИ может оказаться катастрофическим. Действительно, такой дефект может означать разницу между прекрасным будущим с космической экспансией и нескончаемым изобилием и мрачным будущим бесконечного ужаса или даже вымирания.

 

Вопросы

1. Что такое технологическая сингулярность?

2. Какие формы принимает технологическая сингулярность в области ИИ?

3. Каковы экзистенциальные аспекты технологической сингулярности?

4. Что такое функционалистская точка зрения на сознание?

5. Кем и как определяются «легкая» и «трудная» проблемы сознания?

6. Что такое «философский зомби»?

7. Какие признаки познания Мюрей Шанахан связывает с наличием у познающего агента сознания?

8. Возможно ли самосознание у ИИ? Какой смысл (функции) может иметь наличие самосознания у ИИ?

9. Можно ли наделить ИИ свойствами уникальной и автономной личности? Нужно ли и зачем это делать?

10. Что такое «трансгуманизм» и какие у него могут быть связи с проектами создания ИИ?

11. Что такое «эмуляция мозга»? Опишите мысленный эксперимент, доказывающий возможность создания сознания у ИИ, моделирующего деятельность мозга.

12. Возможны ли мозгоподобные архитектуры как носители сознания, отличные от мозга.

13. Что такое создание ИИ «с нуля»? Чем данная стратегия отличается от стратегий эмулирования мозга и создания мозгоподобных архитектур?

14. Что такое «суперсознание», и каковы его возможные характеристики и функции?

15. Каковы функции эмоций и возможные пути их моделирования?

16. Чем могут отличаться самосознание, личность и эмоции искусственного суперинтеллекта?

 

Мертон Р.