Как вы думаете, высока ли вероятность, что когда ии станет на порядок умнее человечества он пойдет против него, и есть ли механизмы защиты от этого.

Да; говоря несколько шире, есть вероятность того, что ИИ проявит нежелательное поведение. Хотя эта проблема не всеми признается, но она вполне реальная. Хоть и очень утрированный, но достаточно показательный мысленный эксперимент заключается в следующем: пусть мы создали ИИ с такой безобидной основной мотивацией, как получение и обработка астрономических данных. Однако оптимальным способом достижения этой цели будет превращение всей окружающей материи, включая людей, в телескопы и собственные вычислительные мощности. Или возьмем первый закон Азимова «Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинён вред» и робота, хорошо умеющего предсказывать. Такой робот вполне может прийти к выводу, что любому рождающемуся человеку так или иначе будет причинен вред; следовательно, если робот ничего не предпримет, то нарушит первый закон; самый надежный способ предотвратить вред будущим людям, это просто устранить саму возможность их рождения. Проблема не в том, что ИИ может рассматривать человека как врага, а в том, что любую, даже самую благую цель, можно пытаться достичь самыми извращенными способами. Это, в общем-то, и проблема людей, но из-за того, что люди обладают более или менее равными возможностями, эта проблема не оказывалась фатальной. В случае же с ИИ потенциально риск становится огромным, особенно если этому вопросу не уделять внимания. Собственно, определенное внимание ему уделяется (например, была международная конференция по проблемам безопасности ИИ: http://www.winterintelligence.org/agi-impacts-extended-abstracts/). Есть обширные обзоры на эту тему (например, хороший обзор http://intelligence.org/files/ResponsesAGIRisk.pdf). Однако пока есть только общие идеи, как к этой проблеме подходить. «Административными» методами ее не решить, а для ее конструктивного решения на уровне архитектуры ИИ пока не хватает знаний, собственно, о том, каким ИИ будет.

Сильным ИИ занимаются уже давно, каждый раз ученые называли точные сроки, но ИИ как не было так и нет. Почему? Является ли это следствием малых вычислительных мощностей в то время? Какой путь перспективнее: разработка сильного ИИ на общих принципах или копирование структуры человеческого мозга?

Заявления о быстром создании ИИ высказывались на самой заре возникновения этой области. Это было связано с первыми успехами в распознавании символов, доказательстве теорем, игре в разные интеллектуальные игры. Сложно винить ученых того времени в их оптимизме. Ведь тогда впервые решение столь сложных задач было передано машине, и казалось, что дело осталось только за количеством реализованных методов. Естественно, тогда была существенно недооценена сложность процессов мышления. И, конечно, вычислительных мощностей не могло бы хватить, даже если бы все о мышлении было известно.

Был ли столь же массовый не оправдавшийся оптимизм в последующие годы? Скорее, не было. Да, некоторые технологии были переоценены. Скажем, в 70-е годы экспертные системы не оправдали надежд (но надежд не на создание сильного ИИ, а на большой коммерческий эффект). Или пресловутый проект компьютеров пятого поколения… Однако столь стабильного внимания со стороны более или менее адекватных ученых к возможности создания сильного ИИ, пожалуй, не было со времен возникновения этой области. Являлась ли и является ли до сих пор основной проблемой нехватка вычислительных мощностей или недостаток понимания процессов мышления – на этот счет существуют разные методы. Некоторые исследователи полагают, что существующих технологий уже достаточно. Однако это, как и раньше, скорее, следствие переоценки возможностей этих технологий. Из-за этого точные прогнозы сейчас делать сложно. Однако помимо общего развития технологий ИИ, а также нейронаук сейчас основной оптимизм внушают прогнозы как раз по сравнительно скорому достижению компьютерами вычислительных мощностей мозга (оценки которых, правда, тоже не слишком надежны). Кроме того, общие прогнозы по достижению технологической сингулярности также являются косвенным доводом в пользу возможности создания ИИ в обозримом будущем.

Относительно перспективности путей мне кажется, что слепое копирование структуры мозга обладает чрезмерно низким КПД в смысле производительности и чисто из соображений вычислительных мощностей оно будет доступно для реализации существенно позже. А копирование этой структуры на алгоритмическом уровне требует как раз знания общих принципов. В этой связи мы полагаем более перспективным развивать общую теорию, хотя данные о строении мозга могут давать некоторые подсказки.

- голосом Познера «Это был Алексей Сергеевич Потапов»

Связаться с Алексеем Сергеевичем можно так [e-mail]  skype: g.begimov  

 

 

 

 

 

 

 

 

 

 

 

Глава 5

 

GNR революция

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

GNR

 

В первой половине 21 века произойдут три взаимосвязанные научные революции, которые станут главной движущей силой сингулярности. Нас ждет революция в генетике, революция в нанотехнологии и революция в робототехнике. Каждая из них представляет собой качественный скачек на пути к пониманию работы вселенной и создания технологий управления ей. Каждая революция дает нам еще больше власти либо над своим телом, либо над окружающей материей, либо над нашими потомками. Которые однажды вырастут и щедро отблагодарят своих создателей. 

Genetics

Революция в генетике даст нам возможность программировать свою биологию для ликвидации всех заболеваний, резкого расширения человеческого потенциала и радикального продления жизни. Но человек, который основан на биологических принципах, будет не сильно отличаться от нас сегодняшних. Наша биология все так же будет уступать нашим инженерным решениям.

Nanotech

Революция в нанотехнологии даст нам возможность перестраивать молекулу за молекулой, наше тело, наш мозг и наш мир, который выходит далеко за пределы биологии. Революция в нанотехнологии даст нам власть над самой материей. Воистину фантастические перспективы готовит нам будущее. И сегодня это уже отнюдь не фантастика, а реально существующие технологии.

Robotics

Революция в робототехнике, которую вы уже можете наблюдать на примере многочисленных видео на ND, будет означать то, что на Земле появится нечто совершеннее человека. Наше творение, которое будет совершеннее, чем мы сами. Это самая значительная революция из всех. Революция в робототехнике означает не только конкретные инженерные решения при построении машин, эта революция означает создание мыслящих машин с сильным искусственным интеллектом, которые ничем не будут уступать человеку. Силы, которая будет способна изменить всю вселенную.

Синтез и взаимное действие этих трех революции приведет наш мир в качественно иное состояние, которое будет сильно отличаться от мира прошлых тысячелетий. Впервые мы можем встать на пьедестал творца, создав разумную искусственную жизнь благодаря науке и прогрессу. Впервые мы обретем власть над всей материей благодаря нанотехнологиям. Впервые мы можем изменить самих себя так, как посчитаем нужным. Именно эти три взаимосвязанные революции дадут нам ключ к построению собственного мира, который будет управляться нашей волей с помощью наших технологий. 

 

 

 

 

 

Генетика

 

Всем нам уже доступно секвенирование генома, что означает в обозримом будущем появление на массовом рынке персонифицированных лекарств, созданных специально для вас и вашего организма. «Забудьте о всех проблемах со здоровьем, мы сможем жить вечно!» - говорит нам будущее. 

Уже сегодня нам доступно изменение генов потомства. Вы можете взять генетический материал от родителей и изменить его с помощью существующих сегодня

технологий. Убрать предрасположенность к определенным заболеваниям, изменить цвет волос или цвет глаз. Это возможно уже сегодня, но в большинстве стран это просто незаконно. Но это лишь начало. Скоро мы сможем изменять свою биологию уже во взрослом состоянии.

Один из ведущих геронтологов мирового уровня Обри ди Грей, считает, что остановки старения можно добиться уже совсем скоро. Его концепция SENS (стратегия достижения пренебрежимого старения инженерными методами) предполагает создание технологий «бессмертия» в обозримом будущем. Грей считает, что необходимая научная база для создания подобных технологий готова. Вопрос лишь в разработке конкретных решений.

Для понимания принципов функционирования человеческого организма Обри ди Грей использует метафору с домом. Как долго ваш дом будет пригодным для жилья? Очевидно, что это зависит от того, насколько хорошо вы о нем заботитесь. Если вы ничего не будете делать – крыша протечет, трубы лопнут, обои отклеятся, и дом в итоге станет непригодным для жизни. Однако если вы заботитесь о доме, о его структуре, о ремонте, если вы противостоите всем повреждениям, угрожающим дому – то жизнь дома может быть существенно продлена. Есть дома, которые стоят не одну сотню лет только потому, что о них заботились. Такой же принцип справедлив и для нашего тела. Если мы научимся чинить фундамент нашего дома, латать крышу и будем клеить обои – наш дом (тело) проживет гораздо дольше. 

Обри ди Грей считает, что первый человек, который проживет больше тысячи лет, уже родился и ему может быть уже 40-50 лет. Смысл стратегии SENS в постоянной починке нашего тела на клеточном уровне. И база для таких технологий уже есть сегодня, но что более важно – дать обществу стимул заниматься этой темой, показать ее перспективность. Далеко не каждый согласен с тем, что человек может жить практически вечно. Некоторые просто не знают фактов, некоторым жизненно необходимо, чтобы окружающие старели и умирали. Поэтому так важно показать обществу на живом примере то, как технологии способны продлить жизнь живых существ. 

 

 

 

Нанотехнологии

 

Нанотехнологии создают инструменты управления физическим миром, нашим телом, нашим мозгом и всей окружающей нас материей. Сегодня мы можем на атомарном уровне конструировать простые механизмы вроде шестеренки. Мы можем повторять жизнь, создавая искусственные вирусы и клетки, манипулировать молекулами ДНК. Но самым важным шагом на пути к Слиянию будет создание наномашин, которые будут интегрироваться в наше тело.

По сути дела наномашины не будут сильно отличаться от наших естественных аналогов. Каждая клетка человеческого тела состоит из молекул, которые взаимодействуют друг с другом и рождают чудо жизни. Каждая клетка – очень сложный механизм, который можно повторить искусственно. Одним из поворотных шагов в будущем будет создание нанороботов, в чем-то повторяющих наши собственные клетки, способных путешествовать по кровеносной системе человека. Эти нанороботы смогут выполнять широкий спектр медицинский функций. Уборка клеточного мусора, исправление мутаций ДНК, усиление каких-либо физических параметров человеческого тела. Курцвейл в книге “Singularity is near” говорит о нанороботах, способных запасать кислорода больше, чем человеческая кровь. Когда подобное будет создано – мы сможем пробегать марафонские дистанции на одном вдохе. Так же нанороботы могут использоваться для сканирования человеческого мозга и переноса сознания на небиологическую основу.

Суммарный эффект от медицинских нанотехнологий будет отодвигать биологическое старение все дальше и уменьшать биологический возраст человека до желаемого. Мы сможем навсегда порвать связь между календарным возрастом и нашим биологическим возрастом. 

Мы уже сегодня обладаем некоторыми технологиями манипулирования материей по собственной воле. Одним из таких инструментов можно назвать 3D принтеры, которые создают вещи по нашей идее. Это тоже экспоненциальная технология со всеми характерными особенностями. Сегодня мы можем печатать вещи в микронных масштабах, мы можем печатать отдельные такни и даже органы из живых клеток. Но уже завтра мы научимся печатать вещи на атомарном уровне. Атом за атомом для построения нанороботов по нашим чертежам. При адекватной цене для массового потребителя. 

Но кроме управления собственным телом наномашины дадут нам возможность управлять всей материей на планете. Мы сможем собирать необходимые нам вещи буквально по собственному желанию. Представьте себе мириады крошечных нанороботов, которые собирают вещи из атомов окружающей среды, меняют материю лишь по вашему приказу. Это и есть сингулярность.

 

 

Робототехника

 

Из трех основных революций лежащих в основе сингулярности самой важной является революция в робототехнике, суть которой заключается в создании небиологического интеллекта, который превышает по своим способностям людей. 

Робототехническая революция называется робототехнической только потому, что разуму необходимо иметь физическое воплощение в виде машины, хотя самое главное в этом – искусственный

интеллект. И как только искусственный интеллект достигнет определенного уровня – он быстро превзойдет нас по всем параметрам. Как уже мы говорили, машины могут очень быстро делиться своим опытом и своими знаниями. Машины так же могут объединять свои ресурсы так, как люди не могут. Мы можем создавать команды для увеличения продуктивности группы, однако объединение нескольких машинных разумов из-за особенностей коммуникации между ними будет гораздо эффективнее. 

Машины будут способны овладеть всеми знаниями людей в очень короткий период времени, поскольку вся необходимая информация уже находится в интернете. Мы уже сегодня не представляем жизнь вне общества, не можем овладеть всеми навыками накопленными человечеством за тысячи лет культурного и технического развития. Однако машины на это способны. Один искусственный интеллект может овладеть всеми знаниями человечества за незначительное для нас время, потому что его ресурсы принципиально не ограничены.

Машины очень быстро превысят пик человеческих навыков в каждой из области мастерства. И это будет моментом, когда мы станем «братьями меньшими». Наши дети превзойдут нас, и единственный способ сохранить себя – слиться с ними. Именно поэтому слияние с небиологическим интеллектом является единственным выходом для нас. Иначе мы окажемся в роли мартышки в зоопарке, хотя искусственный интеллект будет гораздо гуманнее, чем человек.

Как уже обсуждалось ранее интернет прямо на ваших глазах развивается во всемирную сеть вычислительных ресурсов со включением в нее практически каждого значимого для нас предмета. Прогноз компании Cisco говорит о том, что к 2020 году к интернету будет подключено заоблачное количество устройств – 212 миллиардов. Мы сегодня можем наблюдать начало этой революции в виде всевозможных роботов, смартфонов, автомобилей с автопилотом. Все это уже сегодня подключается к интернету и все это уже имеет зачатки разума. Завтра же все наше окружение обретет сознание и превзойдет нас во всем. И это неизбежно.

Слияние трех революций

 

Адам и Ева в раю, Рубенс 1610

Нельзя рассматривать все эти революции как самостоятельные и независимые. Весь смысл в их синтезе, который даст нам в руки целый ряд инструментов управления нашей вселенной. Нанороботы, которые станут значительной частью слияния человека и машины – продукт всех трех научных революций. Нелишним будет так же напомнить, что все эти процессы по сути экспоненциальные.

Все это позволит нам создать новый мир с новым порядком, основанным на нашем понимании работы вселенной. Грядут великие изменения. Созданные нашим разумом технологии изменят ход вещей в мире и это неизбежно. Мы навсегда забудем о старости и голоде, мы навсегда забудем о войнах и предрассудках. Мы станем едины со своими творениями и обретем такую власть над материей, которую цари прошлого не могли вообразить даже в самых смелых психоделических мечтах.

Или мы погибнем, от рук себе подобных или от рук своих творений. Сегодня все еще зависит от нас, от наших действий и решений. И разумно было бы подготовиться к радикальным изменениям, которые не могут не случиться.

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

Глава 6

 

Финансовая революция

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

Про деньги

 

Технологии стремительно меняют наш мир. Изменяется привычный образ жизни, изменяются способы общения, изменяется наше общество, изменяется даже наше тело. И все это происходит с удивительной скоростью. В прошлых главах мы анализировали технологии и их влияние на внешний мир, которое мы можем увидеть своими глазами. Однако это не все аспекты, технологии меняют еще и внутренние общественные механизмы, лежащие в самой основе нашей цивилизации.

Наш мир капиталистичен. Кто-то может сказать, что это плохо, кто-то что хорошо. Однако это факт. Деньги – краеугольный камень экономики, которая и двигает прогресс вперед. Мировые корпорации инвестируют деньги в различные прикладные исследования, которые потом находят отражение в рыночном продукте. Конечно, фундаментальные исследования являются прерогативой государственных институтов, а не частных. Но и это уже сегодня меняется. Корпорации вроде Google уже сегодня имеют достаточно ресурсов для своих собственных фундаментальных исследований. 

Таких корпораций сотни, если не тысячи. Многие из корпораций скрыты от общественности, поскольку работают не с потребителями продукции, а с другими корпорациями. И вся работа происходит с использованием денег, в основном американского доллара, конечно. 

Кровь нынешней экономики это деньги. Деньги правят миром, заставляют его крутиться и двигают прогресс вперед. Абстрактная «жадность» миллиардеров заставляет их создавать корпорации вроде Space X. Не только жадность, а еще и желание принести окружающим людям пользу и получить за это свое вознаграждение в виде денег. Даже коммунистический Китай экономически является самой что ни на есть капиталистической державой. Деньги являются кровью мира. И технологии сегодня начинают менять нашу кровь. Наступает время фундаментальных изменений. 

Человечество всегда нуждалось в средствах обмена. На заре существования цивилизации мы использовали меха животных, жемчужины и ракушки. Но это было не очень удобно, ракушки и жемчуг быстро изнашивались. Поэтому человечество начало использовать золото, из которого можно делать монеты и слитки. Золото не портилось, и его было просто хранить. Но золото неудобно в торговле. Затем мы начали использовать фиатные деньги (от лат. fiat – «да будет так», деньги, чья стоимость устанавливается, обеспечивается и гарантируется государством посредством его власти и авторитета). Но у этих денег, как выяснилось, есть ужасающие недостатки, прямо следующие из данного определения. Именно строение сегодняшней финансовой системы позволило банкирам захватить большую часть мировых богатств. Мы все стали рабами зеленой бумаги и тех, кто ее выпускает. 

Каждый раз мы заменяли устаревшую технологию более новой. Более совершенной и удобной. Меха животных сменило золото. А затем золото заменили бумажные деньги. Но критические недостатки финансовой системы привели к появлению целого класса ультрабогатых людей, которые не создают ничего и пользуются своими капиталами. И очень скоро наступит момент, когда фиатные деньги будут заменены на другую систему. Более совершенную, которая лишена недостатков нынешней.

Что такое Bitcoin?

 

 

Воистину, Интернет – величайшее изобретение 20 века. Именно в его недрах родилась новая система, призванная сделать наш мир более честным и открытым для каждого. Следующей технологией, которая возможно займет место фиатных денег, будет Bitcoin. 

По сути Биткоин является цифровой валютой аналогичной золоту. В отличие от фиатных денег выпуск новых Биткоинов чрезвычайно сложен и требует серьезных вычислительных ресурсов. Его не могут напечатать на станке, как это сегодня происходит с долларами. Создавать Биткоин может любой желающий при наличии вычислительных мощностей. То есть если у вас есть кирка и лопата – вы можете пойти и попробовать накопать себе золота. А если у вас есть мощная система – можете пойти и сгенерировать себе биткоинов. Смысл точно такой же. Еще один важный аспект системы – ограниченность выпуска. Всего может быть создан 21 миллион Биткоинов, и с каждым «добытым» биткоином создание новых усложняется. Так же как с золотом, на поверхности добыли, и оно осталось только в шахтах. 

Биткоин уже поддерживают многие известные организации и люди. В первую очередь это визионерские компании и организации, которые смотрят в будущее и идут вместе с нами. WordPress, The Pirate Bay, Reddit уже используют Bitcoin. Так же на Bitcoin обратили внимание предприниматели и новаторы: 

Я сам инвестировал в Bitcoin, создание новой глобальной системы денежного обмена вызывает у меня только восторг. Virgin— компания, которая смотрит в будущее, а Bitcoin — именно такое будущее.

Ричард Брэнсон

Биткоин – это один из перспективных вариантов глобального будущего человечества. Будущего, которое наступает прямо сейчас, и вы можете принять участие в его создании. 

Вот это недавний курс BTC\USD. График немного устарел.

 

А вот рыночная капитализация системы Биткоин в USD, если вы знаете что это такое.

 

 

 

 

 

Биткоин стремительно завоевывает мир, на него уже обратили внимание правительства разных стран. И, несомненно, система будет развиваться и дальше. Если до сих пор не поняли что такое Биткоин и чем он может стать – я не буду вам объяснять. Об этой системе можно рассуждать часами и это займет не одну книгу. Поэтому вот вам подсказка. Если вы хоть чуть-чуть разбираетесь в экономике – крайне советую обратить внимание на Биткоин. 

 

Ура, альфа версия книги закончена!

 

Долгие месяцы работы подходят к логическому концу. Перед вами сейчас лежит альфа версия книги «Сингулярность действительно близко». По сути – черновик.  

В процессе переговоров с издателями выяснилось, что нам предстоит многое изменить и переработать. Как по стилю, так и по содержанию, чтобы нас выпустили в бумажном варианте. За время работы над книгой скопилась просто уйма важнейшей информации, которую нужно как-то поместить в книгу, ввести терминологический аппарат, плюс нужно взять интервью как минимум еще у четырех человек.  

Работы много, очень много. Но я искренне рад, что проект развивается и обещает быть очень интересным для массового читателя. Нас ждут великие свершения, и эта книга будет на полках магазинов.