Если мы можем стать такими опасными, стоит ли удивляться, что нас сделали смертными, ограничили наши возможности для познания окружающего мира. А теперь, кто знает, и вовсе хотят нас ликвидировать.

Действительно, не кажется ли вам, что природа вдруг стала плохо себя вести? Неизвестно откуда взялось глобальное потепление. Кругом катаклизмы и катастрофы. Кстати, в глобальном потеплении крайне велика роль углекислого газа. Частично это продукт человеческой деятельности. Но до сих пор в научном мире нет полного единства во взглядах на этот вопрос – откуда он берется и куда девается.

По-разному оценивается сам механизм потепления, роль в нем тех или иных факторов. Более того, часть ученых считает, что изменения климата могут привести в ближайшем будущем не к потеплению, а к резкому похолоданию. Иными словами, механизм глобального потепления не до конца ясен. В первую очередь это касается его причин, роли отдельных факторов, сроков протекания тех или иных процессов, а также ближайших и отдаленных последствий. Согласно мнению оптимистов ничего существенного с климатом нашей планеты в ближайшем обозримом будущем не произойдет. Однако пессимисты считают, что уже к концу этого столетия результаты глобального потепления могут быть катастрофическими. А часть ученых вообще полагает, что достаточно неприятные изменения произойдут уже к 2025 году.

Может быть, это глобальное потепление происходит не так уж и само по себе? Много ли надо изменить, чтобы нарушить хрупкое природное равновесие и запустить необратимые климатические процессы? Особенно если знаешь, что именно и как надо изменять? Так, может быть, в этом процессе активно задействован и наш с вами создатель? Например, поспособствовал накоплению углекислоты в атмосфере, а в результате через несколько десятков лет человечеству будет не до коллайдеров, речь пойдет просто о выживании.

В заключение этой темы позволим себе упомянуть некоторые библейские сюжеты. Может быть, это поможет пониманию проблемы. Итак, как известно из Библии, Бог создал Эдем, вырастил там деревья, создал людей, сотворил животных. В раю было два запретных дерева. Одно, это уже упоминавшееся Дерево познания добра и зла. Именно с него Адам и Ева по наущению зловредного Змея сорвали и съели то, что кушать были не должны. Последствия известны - люди стали смертными, были переселены из рая на Землю. Но при этом они познали, что такое добро и зло.

Однако напомним, что в райском саду было и еще одно интересное дерево – Дерево жизни. Оно также являлось запретным для людей. Но почему? Они ведь и так существовали вечно в Эдеме. Им не было необходимо какими-то дополнительными способами продлевать себе жизнь. Она для них и так была вечной. Точнее, они вообще существовали вне категорий жизни и смерти. Давайте попробуем разобраться поподробнее, тут есть о чем поговорить.

Как известно, Бог озаботился тем, чтобы Адам не вкусил от Дерева жизни, лишь только после того, как тот совершил грехопадение и съел плод с Дерева познания добра и зла. Бог высказал опасение, как бы человек не вкусил от Дерева жизни и не стал жить вечно (Быт. 3:22). Отчего такое беспокойство? Просто ревность, чтобы человек не стал равным Богу? Ну и стал бы, что тут такого запретного и плохого?

Если быть точным, то перед этим Бог констатировал, что Адам познал добро и зло и в результате стал "как один из нас". Если речь идет о добре и зле, значит применительно к Богу уже имеют место сознание, самосознание, самосохранение. Выходит, что боги тоже являются обособленными субстанциями, которые себя сохраняют, защищают и оберегают. То есть делают то же самое, что и все остальные живые существа на Земле. Значит, в принципе Бог тоже смертен, он тоже может быть при определенной ситуации уничтожен. Другое дело, что у него, надо полагать, нет внутренней жесткой установки, как у людей и прочих живых организмов, на гарантированное самоуничтожение. Но, видимо, уничтожение Бога все-таки возможно в силу каких-то дополнительных факторов.

Логично было бы предположить, что Бог, опасаясь, что Адам вкусит от Дерева жизни, при этом беспокоился, что тот в результате может создать именно ему, Богу, какую-то угрозу. Похоже, что речь идет, по сути, о конкуренции. Возникают две субстанции (Бог и человек), каждая из которых занимает какое-то пространство в мироздании. Каждая из них имеет свою установку на самозащиту, на самосохранение. Значит, по мнению Бога, возможен и конфликт интересов. В том числе и в отношении жизненного пространства. А может быть, Бог опасался, что человек, став бессмертным, а значит, получив неограниченное время для самосовершенствования и для познания окружающего мира, что-то такое изменит в этом мире, что в результате может привести к катастрофическим последствиям.

Читатель, видимо, обратил внимание, что в этом эпизоде авторы данной книги не очень далеко уходят от библейского текста. Не мы этот текст сочиняли. Не мы придумали сюжет вокруг двух деревьев. Но согласитесь, уж очень гладко этот сюжет ложится на версию о конфликте интересов. Действительно, речь в нем идет о категории жизни. Вопрос поставлен о недопустимости вечной жизни для человека. Причем только после того, как тот познал добро и зло, а не раньше. При этом констатируется нежелательность, чтобы человек был равен Богу в продолжительности жизни после того, как он, так же, как и Бог, познал, что такое добро и зло.

На самом деле в этом сюжете явно достаточно мало места для интерпретаций. В Библии сказано именно то, что сказано. И значение явно недвусмысленное. Если такой текст не является просто назиданием, написанным опытным литератором, а несет какой-то более глубокий смысл, то, может быть, к нему следовало бы и прислушаться? Тем более, что тут, вообще говоря, не видно никакого определенного назидания. Но зачем-то этот текст все-таки был написан! Не просто же как игра фантазии его автора. К тому же указанный сюжет просматривается и в других источниках. Например, у тех же шумеров также есть дерево жизни, связанное с божественными возможностями.

Кстати, судя по библейским текстам, Бог неоднократно принимал меры, направленные на серьезное ограничение возможностей человечества. Конечно, первое, это он сделал людей смертными. Затем ограничил продолжительность их жизни до ста двадцати лет (Быт. 6:3). При этом сослался на то, что люди пренебрегают им.

Затем Бог сказал буквально следующее: «истреблю с лица земли человеков, которых Я сотворил, от человека до скотов, и гадов и птиц небесных истреблю, ибо Я раскаялся, что создал их». (Быт. 6:7). При этом был назван и мотив – «велико развращение человеков на земле, и что все мысли и помышления сердца их были зло во всякое время».

Зло для кого? Для самого человека? Не похоже. Остается единственное другое действующее лицо – сам Бог. Выходит, что действия человека стали рассматриваться Богом на этом этапе как зло, направленное именно против него.

Итак, мы подошли к потопу. Согласно библейским текстам это было целенаправленное действие Бога по уничтожению человека ("истреблю с лица Земли человеков"). Но правильно ли мы понимаем эту часть Библии? "Развращение" в современном языке означает действия, прямо связанные с сексом (кровосмешение, сексуальные извращения), либо в целом образ жизни, предполагающий излишества и злоупотребления, а также разрушение нравственности и морали.

Однако если действительно речь идет только о сексе и безнравственных поступках, то это немного странно. Первый безнравственный поступок был совершен, когда был съеден запретный плод. Сразу стало ясно, что люди будут и дальше совершать действия, уже изначально квалифицированные как грехопадение. Но почему-то тогда у Бога не появилось желания истребить людей. В тот момент это было намного проще сделать, ведь речь шла всего о двух его созданиях. А может быть, на самом деле разница заключалась в том, что на Земле стало жить слишком много людей? Может быть, именно количество, да и сама скорость размножения людей в конце концов смутили Бога? Напомним, за что именно Бог сделал человека смертным. Именно за то, что тот нашел способ размножаться. По сути, именно за это Бог счел необходимым гарантированно ограничить по времени отдельную человеческую жизнь. Может быть, сначала сделал смертным, а потом понял, что этого мало, и решил принять дополнительные меры по уничтожению людей?

Если продолжать рассуждать логически, то какой же это выход против безнравственности – утопить значительную часть человечества? Нетрудно заметить, что все человечество изначально начиналось с двух человек – Адама и Евы. И тем не менее, это не спасло ни их, ни последующих потомков от порока. Как же мог спасти от этого потоп? Еще раз свести численность к нескольким людям? Но их потомки точно так же, как потомки Адама и Евы, в дальнейшем погрязли бы в грехе. Собственно, это и произошло, если вспомнить, например, Лота и его дочерей.

Может быть, речь идет о кровосмешении? Но это тем более странно и нелогично. Если оставить на Земле только Ноя и «каждой твари по паре», то тем самым будет существенно сокращен генофонд. Как раз именно в таком случае и будут скорее наступать последствия, которые вызываются кровосмешением. И это касается как людей, так и животных. А может, Богу было неугодно то, что человек занимался кровосмешением не вынужденно, а осознанно? Может быть. В таком случае как бы просматривается ослушание божественного слова.

Однако, может быть, на самом деле не многочисленные случаи кровосмешения так озаботили Бога, а многочисленные случаи просто совокупления, то есть в итоге темпы рождения новых людей? Во всяком случае, в шумерских текстах речь идет о боге Энлиле, который в аналогичной ситуации озаботился именно темпами размножения людей, а не их порочными поступками. Хотя способы уничтожения людей поначалу последовали несколько иные (не потоп, а болезни, голод и т.д.) и они вели именно к уничтожению только человека, а не всего животного мира. У шумеров также существует сюжет с кораблем, который был аналогом ковчегу. Там также был бог (Энки), предупредивший человека (Утнапишти) о потопе и предложивший взять на борт не всякой твари по паре, а лишь их семя, что звучит явно более разумно, чем у христиан.

Потоп – это хорошее средство разрушить всю инфраструктуру, на длительное время приостановить вторжение человека в тайны природы, которые скрывают огромные разрушительные силы. Вот для этого потоп был хорошим средством. Однако если Бог поступил подобным образом один раз, то можно предположить, что он предпримет что-то подобное и еще раз, если сочтет, что мы делаем что-то не то, что-то такое, что, например, создает угрозу общему жизненному пространству. Глобальное потепление – это в конечном итоге значительный рост уровня Мирового океана, да и иные разрушительные последствия.

Обратимся еще раз к тексту Библии. Из него следует, что мотивом потопа было не только «развращение», но и то, что «мысли и помышления сердца их были зло во всякое время». Это интересная причина, давайте разберемся с ней повнимательней. Зло и добро – относительные понятия. Они не существуют сами по себе и применительно к любому предмету. Это субъективное отношение человека к тем или иным событиям, в том числе и собственным поступкам. Конечно, «зло» – это многозначный термин. Мы легко говорим: «Творить зло». То есть совершать плохие поступки. Однако если быть точным, добро и зло – это скорее оценка таких событий. Если они способствуют самосохранению человека, то это добро. А если не способствуют, и более того, вредят, то это уже зло. Злой поступок в таком понимании – это действия, направленные против попыток иного субъекта самосохраниться.

Все-таки вряд ли было бы правильно понимать слово «зло» в описываемом контексте как действия людей, направленные на разрушение собственной линии на самосохранение. Тут и не за что карать людей, пытаться их уничтожить. Они в таком случае и сами себя уничтожат. Нет, тут явно в термин «зло» было вложено иное содержание. Обратим внимание на то, что ограничение возраста людей произошло из-за того, что они пренебрегали Богом («не вечно Духу Моему быть пренебрегаемым человеками»). Так, может быть, когда в тексте речь идет о зле, имеется в виду не зло, совершавшееся между людьми, а зло, направленное против самого Бога? Такой вывод выглядит намного более логичным. То есть Бог решил уничтожить людей не за то, что они жили не так, как следует, а за то, что они своим образом жизни, умышленно или нет, но стали создавать угрозу ему самому.

Интересны и мотивы, по которым Бог выбрал Ноя. Тот был «непорочным». Однако имел трех сыновей. Но откуда в таком случае взялись эти самые сыновья? Наверное, тут в тексте в слово «порочный» вкладывается иной смысл, нежели «развратный» или в каком-то еще смысле совершающий сексуальные действия. Вряд ли мы ошибемся, если предположим, что непорочность в таком контексте означала отношение Ноя к самому Богу. Ной, надо полагать, по оценке Бога, меньше, чем другие люди, создавал ему угрозу или был намерен совершать действия, способные такую угрозу создать. То есть был более близок к тому идеалу, к которому Бог стремился в образе Адама. Чтобы свобода воли была, но не беспредельная и не направленная против Бога.

Однако, что же это за такие действия, которые так беспокоили Бога? Нежелание слушать его указания? Да, наверное, в первую очередь именно это. Слишком быстрое размножение? Может быть, и это тоже. «И воззрел [Господь] Бог на землю, и вот, она растленна, ибо всякая плоть извратила путь свой на земле». Кстати говоря, было принято решение уничтожить не только человека, но и животных. Однако ясно, что уж они-то ни в каком виде не могли «слушаться» или «не слушаться» Бога. Или замысливать зло. Они могли только размножаться, да еще поедать друг друга и растения. Вот и все, на что они были способны. Выходит, больше не за что было их наказывать.  

Вообще, судя по Книге Бытия, тема численности людей была довольно небезразлична Богу. Этот вопрос возникает не только тогда, когда принимаются какие-то меры против человека. Когда Бог намерен сделать какое-то благо, поощрить кого-то, он нередко говорит о численности потомков. Он обещает Аврааму, что потомков у него будет, сколько звезд на небе (Быт. 15:5). Еще раз он говорит Аврааму: «умножу семя твое, как звезды небесные и как песок на берегу моря» (Быт. 22:17). Примерно то же самое он еще раз говорит Аврааму позже: «умножу потомство твое, как звезды небесные» (Быт. 26:4). Иакову же было сказано так: «и будет потомство твое, как песок земной» (Быт. 28:14).

Кстати, потоп – это не единственный случай, когда Бог пытался противодействовать развитию возможностей человека, вероятно, считая это опасным для себя. Вспомним и сюжет с Вавилонской башней. Как известно, люди вознамерились построить город и башню «высотою до небес, и сделаем себе имя, прежде, нежели рассеемся по лицу всей земли». (Быт. 11:4). Бог же в результате смешал их языки и рассеял по всей Земле. Вроде бы на поверхности лежит следующее назидание: не старайся быть подобным Богу, а то будешь наказан. Кроме того, этот сюжет как бы объясняет, откуда взялись на Земле различные языки. Можно также усмотреть и то, что невозможность общаться на одном языке будет помехой в любом крупном начинании, где участвует много людей.

Однако весь этот эпизод можно истолковать и иным образом. Надеюсь, читатель не осудит нас за настойчивые попытки толкования Библии. Для начала отметим, что люди были намерены построить город и башню лишь для того, чтобы «сделать себе имя». То есть прославить себя, обозначить себя особым образом. И только. Хотя башня «до небес» может предполагать вызов Богу, ведь тот жил на небесах. Или познание новых законов окружающего мира. После завершения строительства люди и сами собирались разойтись по всей Земле. Бог лишил их единого языка. В результате лишь город и башня были недостроены, а планы по поводу повсеместного расселения оказались все равно реализованы.

Итак, отсутствие единого языка. В этой связи возникает вопрос: вообще, почему люди говорят между собой на одном языке? Это происходит тогда, когда они имеют соответствующую потребность. Например, активно между собой торгуют, имеют общие культурные традиции и обряды. В конце концов, заняты в совместном строительстве. Все это, как правило, происходит, когда значительная группа людей объединена по определенному принципу. Например, объединена в одно государство. Короче, речь идет об организованном человеческом сообществе. Единый язык означает, что большое количество людей существует в организованной форме.

Организованная форма – это больше, чем просто много людей. Тут все очевидно. Грамотная организация, в том числе в рамках государства, дает большие дополнительные преимущества. Так, может быть, богов озаботила не высота Вавилонской башни, а именно это – повышение организации человеческого сообщества, его выход на новый уровень возможностей по познанию и использованию окружающего мира? Сначала Бог счел, что людей стало слишком много, и он устроил потоп. Это не помогло. Более того, люди настолько организовались, что оказались способны начать достаточно крупное строительство. И это опять вызвало беспокойство на небе. Формально речь идет о попытке стать равными богам. То есть, надо понимать, о попытке приобрести новые возможности.

В каноническом переводе все это звучит следующим образом: "Сойдем же и смешаем там язык их, так чтобы один не понимал речи другого. И рассеял их Господь оттуда по всей земле, и они перестали строить город и башню. Посему дано ему имя Вавилон; ибо там смешал Господь язык всей земли" (Быт. 11:7-9). Насколько можно судить по тексту, обеспокоенность вызвало даже не строительство башни, а целого города. И Бог сначала смешал языки, а потом люди рассеялись по всей Земле.

Может быть, имела место и иная последовательность событий. Бог что-то такое сделал, чтобы люди утратили общий интерес. Разрушил стройку, внес сумятицу в единую структуру государства, создал между людьми конфликт на какой-то почве. И вот когда интерес был утрачен, когда людей перестало объединять общее дело или общие правила, вот тогда они и разошлись по всей Земле. В результате же их языки стали меняться и перестали быть единым языком. Насколько можно судить по современной истории, сначала люди в силу каких-то причин перестают активно общаться (расселяются в разные регионы, вступают в продолжительный межэтнический конфликт, делятся на разные государства) и уже в силу этого начинают постепенно говорить на все более отличающихся наречиях.

Могла ли все-таки послужить причиной высота башни? Совсем недалеко существовали египетские пирамиды. Они намного выше предполагаемого размера Вавилонской башни (до ста метров). Однако ни в каких религиозных текстах они не вызывали у богов какого-либо неприятия. Другое дело, что в Вавилоне башня должна была быть «высотой до небес».

Как всегда, у шумеров тоже присутствует эпизод со строительством башни, которая называлась Эшагил. И тоже это строительство рассматривалось как вызов богам. В эпосе американских индейцев также фигурирует высокая башня из глины, которая была разрушена богами, а люди разбросаны по разным уголкам Земли.

Так, может быть, не все конфликты между людьми возникают в силу только наших собственных поступков? Может быть, такие конфликты – это одно из орудий в руках посторонних сил, не позволяющих человечеству прогрессировать слишком быстро? Впрочем, не будем настаивать на такой версии. Понятно, что это довольно смелое предположение. Тем более, что желание совершенствовать оружие (то есть орудие борьбы в случае конфликта) является, как известно, мощнейшей движущей силой прогресса, как это ни печально. Кроме того, люди и сами хороши. И способны без всякой посторонней помощи создать любую предельно неприятную конфликтную ситуацию.

Бунт машин

Итак, не исключено, что кто-то (или что-то) достаточно давно рискнул в силу каких-то причин создать на Земле жизнь. И при этом этот гипотетический «кто-то» постепенно пошел от простых существ ко всем более и более сложным. Наконец, создал человека. А тот, в отличие от животных и прочих живых созданий, в силу способности оперировать далеко идущими моделями вышел за пределы поведения "поел – поспал, поспал - поел". Мы стали создавать сложные структуры общества, стали пользоваться орудиями, приборами и устройствами. И наконец стали залезать в законы устройства окружающего мира, при этом вольно или невольно, но высвобождая колоссальные силы и инициируя опасные процессы.

Давайте еще какое-то время будем называть это «что-то» или этого «кого-то» простым и всем понятным словом «Бог». Все равно никто не знает, что представляет собой Бог. Это по определению непознаваемая субстанция. А в нашем контексте использование этого слова, по сути, ничего не меняет. В любом случае речь идет о «создателе» в какой-то неясной форме.

Читатель, надеемся, простит нам такой немного пренебрежительный тон. Просто хочется точнее передать наше отношение к проблеме. Ясно, что мы не имеем в виду конкретного «Иисуса Христа», «Будду» или иного известного бога. У нас как авторов – это совершенно определенно лишь собирательный образ, который при этом не предполагает никакого поклонения. Так уж исторически сложилось, что достаточно разумная идея возникновения жизни на Земле на основе вмешательства посторонних факторов обрела в человеческом обществе довольно специфические формы. Люди стали поклоняться конкретным мифическим персонажам. Все это обросло витиеватыми обрядами, религиозными институтами. Кончилось тем, что весьма здравая в своей основе идея создателя (машины – создателя) оказалась почти безнадежно скомпрометированной. Мы же как авторы взялись почти за невозможное – наплевали на все эти компрометирующие факторы и попытались вычленить хоть какое-то рациональное зерно из религиозной темы. Если там нет этого зерна, ну и ладно, значит авторам немного почудилось. Если есть – тогда тоже неплохо. Если мы правы, то не придется полностью перечеркивать имеющееся у человечества мировоззрение и взгляды на себя и сам феномен жизни.

Вернемся к нашей теме, имеющей религиозно-мистический оттенок. Может быть, Бог опасался именно такого развития событий, когда человек начнет лезть, куда его не просили? Потому-то он сразу же после эпизода с Деревом познания добра и зла и пожалел о содеянном и в результате сделал человека смертным? А потом еще не раз пытался подрезать человеку крылья. К тому же еще предусмотрел в нашей голове механизмы, которые по большому счету препятствуют глубокому познанию природы. Но, похоже, что вопреки всем этим мерам и даже вопреки своему собственному желанию человек все равно сохранил способность разрушать привычный нам окружающий мир.

Самое же забавное в этой ситуации, если, конечно, она именно такова, – это то, что человек, как и Бог, похоже, тоже уже почти наступил на те же самые грабли. И мы, подобно Всевышнему, с самыми лучшими намерениями создали себе в помощь вычислительные машины. А теперь старательно и, в общем-то, безоглядно их совершенствуем. То есть мы тоже, как и Бог, создали своих Адама и Еву и теперь пытаемся ограничить их будущие нежелательные действия всевозможными хитроумными запретами. Даже у Бога, насколько можно судить, это не получилось. А у нас получится? Машины еще не познали добро и зло. Но до этого остался даже не шаг, а полшага.

Мысль о предстоящем «превращении» машин в людей достаточно часто приходит в голову как специалистам, так и простым людям. Нередко говорят, что машины, которые мы изобретаем, в одно прекрасное мгновение восстанут против человека. При этом ставится закономерный вопрос о том, в какой мере мы будем способны контролировать существа, которые сами же создали и продолжаем совершенствовать. Пока такой контроль вроде бы получается. Но будет ли так всегда?

Вообще, по сути, речь идет о конфликте "родителей" и "детей". Такой конфликт хорошо известен в человеческом обществе, он имеет объективный характер. Наверное, подобное противоречие возможно и в более общем плане. Когда речь идет о "родителях" и "детях", то совсем не обязательно, чтобы все они имели человеческий облик. Кроме того, ясно, что пространство для "проживания" во Вселенной ограничено. Относительно ограничено. А в пределах Солнечной системы и вовсе совсем мало мест, где могли бы быть созданы условия, хоть отдаленно напоминающие земные. Где мало пространства, там всегда будет конфликт. Может возникнуть, например, конфликт между иными носителями интеллекта и всеми теми, кого мы причисляем к живому миру, в первую очередь с человеком. Но может сложиться конфликтная ситуация также между человеком и созданными им же самим машинами.

Трудно сказать, произойдет ли это на самом деле или нет и, если произойдет, то когда. Но когда-нибудь вполне может произойти. В принципе ничего необычного в подобном предположении нет. Конечно, вряд ли уместно равнять машины с рабами, которые могут восстать. Все-таки рабы – это люди, и ими движут достаточно специфические мотивы. У машин мотивы могут быть иными. Собственно говоря, основной мотив может быть вовсе не враждебный. А просто сохранять себя, при этом размножаться и волей-неволей занимать все более обширное жизненное пространство. Если сложится ситуация, когда машины смогут самостоятельно сами себя воспроизводить, тогда конфликт, вероятнее всего, и возникнет. Условия для саморазмножения тоже достаточно понятны. Для начала машины должны стать намного проще по конструкции и материалам. Второе условие – это возникновение программы, ориентирующей машины на самозащиту, на самосохранение. В таком случае у машины, скорее всего, возникнет то, что у человека называется сознанием. И машина при возможности будет не только себя защищать, но и стремиться воспроизводить. Как мы видим, в этой схеме достаточно одному «неправильно» думающему программисту создать соответствующую программу и ввести ее в оборот, и «бунт» машин вполне становится реальностью. То есть тем самым такой программист сыграет роль зловредного змея из библейского сюжета о запретном дереве. Или Бога, создавшего Адама и Еву.

Что касается простоты устройства вычислительных машин, то тут мы совершенно явно идем именно к такому результату. Все устройства вокруг нас совершенствуются, становятся все более миниатюрными, а исходные материалы – все более дешевыми и доступными. Так что, похоже, что упрощение машин до степени, когда они смогут самовоспроизводиться, – это лишь вопрос времени, никак не иначе.

Может быть, снабжать всех создаваемых роботов вшитой программой, согласно которой человек является высшей ценностью и все, что может ему повредить, – недопустимо? Если бы все было так просто! Сам-то человек устроен по-другому. У нас высшая ценность – это собственная жизнь, это то, что называется инстинктом самосохранения.

Еще несколько десятков лет назад проблема безопасности машин стала рассматриваться как актуальная. Считается, что самое проработанное и принятое большинством людей решение проблемы безопасности можно найти у писателя-фантаста Айзека Азимова. Это так называемые три закона робототехники, которые сформулированы следующим образом:

1. робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинен вред;

2. робот должен повиноваться командам, которые ему дает человек, кроме тех случаев, когда эти команды противоречат первому закону;