Унаследуют ли роботы Землю? Марвин Л. Мински
Will Robots Inherit the Earth? Marvin Minsky

(Scientific American, октябрь 1994 г., с некоторыми небольшими изменениями)

 

Марвин Ли Минский (Marvin Lee Minsky; 1927 — 2016) — американский учёный в области искусственного интеллекта, сооснователь Лаборатории искусственного интеллекта в Массачусетском технологическом институте.

 

Введение

Все хотят мудрости и богатства. Тем не менее, наше здоровье часто дает сбой прежде, чем мы их достигаем. Чтобы продлить нашу жизнь и улучшить наш разум, в будущем нам нужно будет изменить наши тела и мозг. С этой целью мы сначала должны рассмотреть, как нормальная дарвиновская эволюция привела нас туда, где мы находимся. Затем мы должны представить себе способы, с помощью которых будущие замены изношенных частей тела могли бы решить большинство проблем со здоровьем. Затем мы должны изобрести стратегии, которые позволят расширить наш мозг и обрести большую мудрость. В конце концов мы полностью заменим наш мозг, используя нанотехнологии. Освободившись от ограничений биологии, мы сможем определять продолжительность нашей жизни (с возможностью бессмертия) и выбирать среди других, невообразимых способностей.

Очевидно, что такие изменения трудно представить, и многие мыслители до сих пор утверждают, что эти достижения невозможны, особенно в области искусственного интеллекта. Но наука, необходимая для осуществления этого перехода, уже находится в стадии становления, и пришло время задуматься о том, каким будет этот новый мир.

Здоровье и долголетие

Такое будущее невозможно реализовать посредством биологии. В последнее время мы многое узнали о здоровье и о том, как его поддерживать. Мы разработали тысячи конкретных методов лечения конкретных заболеваний и инвалидностей. Однако мы, похоже, не увеличили максимальную продолжительность нашей жизни. Франклин прожил 84 года, и, если не считать популярных легенд и мифов, никто никогда не жил вдвое дольше. По оценкам Роя Уолфорда, профессора патологии Медицинской школы Калифорнийского университета в Лос-Анджелесе, средняя продолжительность жизни человека в Древнем Риме составляла около 22 лет; около 50 в развитых странах в 1900 году, а сегодня составляет около 75. Тем не менее, каждая из этих кривых, кажется, резко обрывается около 115 лет. Столетия улучшений в здравоохранении не повлияли на этот максимум.

Почему продолжительность нашей жизни так ограничена? Ответ прост: естественный отбор отдает предпочтение генам тех, у кого больше всего потомков. Эти цифры имеют тенденцию расти экспоненциально с числом поколений, и это благоприятствует генам тех, кто размножается в более раннем возрасте. Эволюция обычно не благоприятствует генам, которые продлевают жизнь сверх того срока, которое необходимо взрослым для ухода за потомством. Более того, она может даже благоприятствовать тому, чтобы потомкам не пришлось конкурировать с живыми родителями. Такая эволюция может способствовать накоплению генов, вызывающих смерть.

Например, средиземноморский осьминог (О. Hummelincki) после нереста сразу перестает есть и умирает от голода. Однако если мы удалим определенную железу, осьминог продолжит есть и проживет вдвое дольше. Многие другие животные запрограммированы на смерть вскоре после прекращения размножения. Исключение составляют животные-долгожители, такие как мы и слоны, чье потомство многому учится благодаря социальной передаче накопленных знаний.

Мы, люди, по-видимому, самые долгоживущие теплокровные животные. Что могло привести к тому, что наша нынешняя продолжительность жизни почти вдвое превышает продолжительность жизни других наших родственников-приматов? Это связано с мудростью! Среди всех млекопитающих наши детеныши хуже всего приспособлены к самостоятельному выживанию. Возможно, нам нужны были не только родители, но и бабушки и дедушки, чтобы заботиться о нас и передавать ценные советы по выживанию.

Существует множество причин смертности, которым мы можем поддаться. Некоторые случаи смерти происходят в результате инфекций. Наша иммунная система разработала универсальные способы борьбы с большинством таких заболеваний. К сожалению, те же самые иммунные системы часто вредят нам, относясь к различным частям нас самих так, как будто они тоже являются инфекционными захватчиками. Эта слепота приводит к таким заболеваниям, как диабет, рассеянный склероз, ревматоидный артрит и многим другим.

Мы также подвержены травмам, которые наши тела не могут восстановить. Несчастные случаи, диетический дисбаланс, химические яды, тепло, радиация и множество других воздействий могут деформировать или химически изменить молекулы внутри наших клеток так, что они не смогут функционировать. Некоторые из этих ошибок исправляются путем замены дефектных молекул. Однако, когда скорость замены слишком медленная, ошибки накапливаются. Например, когда белки хрусталиков глаз теряют эластичность, мы теряем способность фокусироваться и нуждаемся в бифокальных очках — одном из изобретений Франклина.

Основные причины смерти возникают в результате воздействия наследственных генов. В число этих генов входят те, которые, по-видимому, в значительной степени ответственны за болезни сердца и рак, две основные причины смертности, а также за бесчисленное множество других заболеваний, таких как муковисцидоз и серповидноклеточная анемия. Новые технологии должны быть в состоянии предотвратить некоторые из этих заболеваний, найдя способы замены этих генов.

Возможно, хуже всего то, что мы страдаем от дефектов, присущих работе нашей генетической системы. Отношения между генами и клетками чрезвычайно косвенны; не существует никаких схем или карт, которые бы направляли наши гены в процессе построения или восстановления тела. Узнав больше о наших генах, мы надеемся, что сможем исправить или, по крайней мере, отсрочить многие состояния, которые  беспокоят нас.

Скорее всего, окончательное старение неизбежно для всех биологических организмов. Конечно, некоторые виды (включая некоторые разновидности рыб, черепах и омаров), похоже, не демонстрируют какого-либо систематического увеличения уровня смертности с возрастом. Эти животные, похоже, умирают в основном от внешних причин, таких как хищники или недостаток еды. Тем не менее, у нас нет записей о животных, проживших более 200 лет, хотя это не доказывает, что их не существует. Уолфорд и многие другие считают, что тщательно разработанная диета, серьезно ограниченная в калориях, может значительно увеличить продолжительность жизни человека, но не может предотвратить нашу окончательную смерть.

Биологическое изнашивание

Узнав больше о наших генах, мы надеемся, что сможем исправить или, по крайней мере, отсрочить многие состояния, которые беспокоят нас. Однако даже если бы мы нашли лекарства от каждой конкретной болезни, нам все равно пришлось бы иметь дело с общей проблемой «износа». Нормальная функция каждой клетки включает в себя тысячи химических процессов, каждый из которых иногда совершает случайные ошибки. Наше тело использует множество методов коррекции, каждый из которых вызывается определенным типом ошибки. Однако эти случайные ошибки происходят по-разному, и ни одна низкоуровневая схема не может исправить их все.

Проблема в том, что наши генетические системы не предназначены для длительного поддержания. Отношения между генами и клетками чрезвычайно косвенны; не существует никаких схем или карт, которые бы направляли наши гены в процессе построения или восстановления тела. Чтобы устранить дефекты в более крупных масштабах, организму понадобится своего рода каталог, в котором будет указано, какие типы клеток и где должны быть расположены. В компьютерных программах такую ​​избыточность легко установить. Многие компьютеры сохраняют неиспользуемые копии наиболее важных «системных» программ и регулярно проверяют их целостность. Однако ни одно животное не эволюционировало подобным образом, по-видимому, потому, что такие алгоритмы не могут развиваться посредством естественного отбора. Проблема в том, что исправление ошибок остановит мутацию, что в конечном итоге настолько замедлит скорость эволюции потомков животного, что они не смогут адаптироваться к изменениям в окружающей среде.

Можем ли мы прожить несколько столетий, просто изменив некоторое количество генов? В конце концов, сейчас мы отличаемся от наших эволюционных родственников, горилл и шимпанзе, всего на несколько тысяч генов, и при этом живем почти вдвое дольше. Если предположить, что лишь небольшая часть этих новых генов вызвала такое увеличение продолжительности жизни, то, возможно, в этом участвовало не более сотни или около того этих генов. Тем не менее, даже если бы это оказалось правдой, это не гарантировало бы, что мы сможем выиграть еще одно столетие, изменив еще сотню генов. Возможно, нам придется изменить лишь некоторые из них, а может быть, нам придется изменить гораздо больше.

Создание новых генов и их замена постепенно становятся возможными. Но мы уже используем другой подход к борьбе с биологическим износом: замену каждого органа, который грозит выйти из строя, биологическим или искусственным заменителем. Некоторые замены уже являются рутинными. Другие уже на горизонте. Сердца — всего лишь умные насосы. Мышцы и кости — это двигатели и балки. Пищеварительная система представляет собой химический реактор. Со временем мы решим проблемы, связанные с пересадкой или заменой всех этих частей.

Однако когда мы рассматриваем возможность замены мозга, трансплантация не сработает. Нельзя просто поменять свой мозг на другой и остаться тем же человеком. Вы потеряете знания и процессы, составляющие вашу личность. Тем не менее, мы могли бы заменить некоторые изношенные части мозга путем трансплантации эмбриональных клеток, выращенных в тканевых культурах. Эта процедура не восстановит утраченные знания, но это может быть не так важно, как кажется. Вероятно, каждый фрагмент знаний мы храним в нескольких разных местах, в разных формах. Новые части мозга можно будет переобучить и реинтегрировать с остальными.

Ограничения человеческой мудрости

Еще до того, как наши тела изнашиваются, мы сталкиваемся с ограничениями нашего мозга. Мы как вид, похоже, достигли плато в нашем интеллектуальном развитии. Нет никаких признаков того, что мы становимся умнее. Был ли Альберт Эйнштейн лучшим учёным, чем Ньютон или Архимед? Кто-нибудь из драматургов последних лет превзошел Шекспира или Еврипида? Мы многому научились за две тысячи лет, однако многое из древней мудрости все еще кажется обоснованным, что заставляет меня подозревать, что мы не добились большого прогресса. Мы до сих пор не знаем, как справляться с конфликтами между индивидуальными целями и глобальными интересами. Мы настолько плохи в принятии важных решений, что при любой возможности оставляем на волю случая то, в чем не уверены.

Почему наша мудрость так ограничена? Это потому, что у нас нет времени многому учиться, или нам не хватает способностей? Не потому ли, что, как гласит популярная легенда, мы используем лишь часть нашего мозга? Может ли лучшее образование помочь? Конечно, но только до определенного момента. Даже наши лучшие вундеркинды учатся не более чем в два раза быстрее остальных. На изучение всего у нас уходит слишком много времени, потому что наш мозг ужасно медленный. Конечно, было бы полезно иметь больше времени, но долголетия недостаточно. Мозг должен достичь пределов того, чему он может научиться. Мы не знаем, каковы эти пределы; возможно, наш мозг сможет учиться еще несколько столетий. Однако в конечном итоге нам придется увеличить его мощность.

Чем больше мы узнаем о нашем мозге, тем больше способов его улучшить мы найдем. Каждый мозг имеет сотни специализированных областей. Мы знаем лишь немного о том, что делает каждая из них, но как только мы узнаем, как работает какая-либо часть, исследователи попытаются найти способы расширить возможности этого органа.  По мере накопления технологий мы попытаемся соединить компьютер с нашим мозгом — возможно, с помощью миллионов микроскопических электродов, вставленных в большой нервный пучок, называемый мозолистым телом, самую большую шину данных в мозгу. С дальнейшим развитием ни одна часть мозга не будет заперта для прикрепления новых аксессуаров. В конце концов, мы найдем способы заменить каждую часть тела и мозга — и таким образом исправить все дефекты и изъяны, которые делают нашу жизнь такой короткой.

Излишне говорить, что при этом мы превратимся в машины (в киборгов).

Означает ли это, что нас заменят машины? Я не думаю, что имеет смысл думать категориями «мы» и «они». Мне больше нравится позиция Ганса Моравека из Университета Карнеги-Меллона, который предлагает нам думать об этих будущих интеллектуальных машинах как о наших собственных «детях разума».

В прошлом мы были склонны рассматривать себя как конечный продукт эволюции, но наша эволюция не прекратилась. Действительно, сейчас мы развиваемся быстрее, хотя и не привычным, медленным дарвиновским путем. Пришло время задуматься о нашей новой формирующейся идентичности. Теперь мы можем создавать системы, основанные на новых видах «неестественного отбора», которые могут использовать явные планы и цели, а также использовать наследование приобретенных характеристик. Эволюционистам потребовалось столетие, чтобы научиться избегать таких идей – биологи называют их «телеологическими» и ламаркистскими – но теперь нам, возможно, придется изменить эти правила!

Замена мозга

Почти все знания, которые мы получаем, хранятся в различных сетях внутри нашего мозга. Эти сети состоят из огромного количества крошечных нервных клеток и еще большего количества более мелких структур, называемых синапсами, которые контролируют передачу сигналов от одной нервной клетки к другой. Чтобы заменить ваш мозг, нам нужно знать, как каждый из ваших синапсов связан с двумя клетками, которые он соединяет. Нам также необходимо знать, как каждая из этих структур реагирует на различные электрические поля, гормоны, нейротрансмиттеры, и другие химические вещества. Мозг содержит триллионы синапсов.

К счастью, нам не нужно знать каждую мельчайшую деталь. Если бы это было важно, наш мозг вообще не работал бы. В биологических организмах каждая система, как правило, стала нечувствительной к большинству деталей того, что происходит в более мелких подсистемах, от которых она зависит. Следовательно, чтобы скопировать функциональный мозг, достаточно воспроизвести функцию каждой части ровно настолько, чтобы оказать важное влияние на другие части.

Предположим, мы хотим скопировать машину, например мозг, содержащую триллион компонентов. Сегодня мы не смогли бы этого сделать (даже если бы обладали необходимыми знаниями), если бы нам приходилось создавать каждый компонент отдельно. Однако если бы у нас был миллион строительных машин, каждая из которых могла бы производить тысячу деталей в секунду, наша задача заняла бы всего несколько минут. В ближайшие десятилетия новые технологии сделают это возможным. Новый подход под названием «нанотехнология» направлен ​​на создание систем, путем размещения каждого атома и молекулы именно там, где мы хотим.

С помощью таких методов мы могли бы получить прорыв. Сегодня, например, когда мы пытаемся вытравить очень маленькие схемы, размеры проводов различаются настолько, что мы не можем предсказать их электрические свойства. Однако если мы сможем точно определить местонахождение каждого атома, то эти провода будут такими, как задуманы. Это приведет к появлению новых видов материалов, которые современные технологии никогда не смогут создать; мы могли бы наделить их огромной прочностью или новыми квантовыми свойствами. Эти продукты, в свою очередь, приведут к появлению компьютеров размером с синапсы, обладающих беспрецедентной скоростью и эффективностью.

Как только мы сможем использовать эти методы для создания "сборочной машины общего назначения, работающей в атомных масштабах, дальнейший прогресс может быть быстрым. Если бы такой машине потребовалась одна неделя, чтобы сделать копию самой себя, то мы могли бы получить миллиард копий менее чем за год.

Эти устройства преобразят наш мир. Например, мы могли бы запрограммировать их на изготовление эффективных устройств для сбора солнечной энергии. Таким образом, мы могли бы выращивать поля микро-фабрик почти так же, как мы сейчас выращиваем деревья. В таком будущем у нас не будет проблем с достижением богатства, а скорее с умением его контролировать. В частности, мы всегда должны проявлять осторожность, имея дело с вещами, которые могут воспроизводить себя.

Пределы человеческой памяти

Если мы хотим рассмотреть возможность расширения возможностей нашего мозга, мы могли бы сначала спросить, как много человек знает об этом сегодня. Томас К. Ландауэр из Bell Communications Research рассмотрел множество экспериментов, в которых людей просили читать текст, смотреть на картинки и слушать слова, предложения, короткие музыкальные отрывки и бессмысленные слоги. Позже их протестировали различными способами, чтобы увидеть, насколько много они помнят. Ни в одной из этих ситуаций люди не были способны воспринимать, а затем запоминать информацию со скоростью более двух бит в секунду в течение длительного периода времени. Если бы вы могли поддерживать эту скорость по двенадцать часов каждый день в течение 100 лет, общее количество информации составило бы всего около трех миллиардов бит — меньше, чем мы можем хранить на обычном 5-дюймовом компакт-диске. Примерно через десять лет эта сумма должна уместиться на одном компьютерном чипе.

Хотя эти эксперименты мало напоминают то, что мы делаем в реальной жизни, у нас нет убедительных доказательств того, что люди могут учиться быстрее. Несмотря на популярные легенды о людях с «фотографической памятью», похоже, никто не усвоил, слово в слово, содержание всего лишь ста книг или одной крупной энциклопедии. Полное собрание сочинений Шекспира насчитывает около 130 миллионов бит. Предел Ландауэра подразумевает, что человеку потребуется не менее четырех лет, чтобы их запомнить. У нас нет обоснованных оценок того, сколько информации нам необходимо для усвоения таких навыков, как рисование или катание на лыжах, но я не вижу причин, по которым эти виды деятельности не следует ограничивать аналогичным образом.

Считается, что мозг содержит порядка ста триллионов синапсов, что должно оставить достаточно места для этих нескольких миллиардов бит воспроизводимых воспоминаний. Однако когда-нибудь станет возможным встроить такое большое пространство для хранения в упаковку размером с горошину, используя нанотехнологии.

Будущее интеллекта

Как только мы поймем, что нам нужно делать, наши нанотехнологии позволят нам создавать замещающие тела и мозги, которые не будут вынуждены работать в медленном темпе «реального времени». События в наших компьютерных чипах уже происходят в миллионы раз быстрее, чем в клетках мозга. Следовательно, мы могли бы заставить наших «детей разума» думать в миллион раз быстрее, чем мы. Такому существу полминуты могут показаться сопоставимы с одним нашим годом, а каждый час — со всей человеческой жизнью.

Но могут ли такие существа действительно существовать? Многие мыслители твердо утверждают, что у машин никогда не будет таких мыслей, как у нас, потому что независимо от того, как мы их создадим, им всегда будет не хватать какого-то жизненно важного ингредиента. Они называют эту сущность разными именами — например, чувством, сознанием, духом или душой. Философы пишут целые книги, чтобы доказать, что из-за этого недостатка машины никогда не смогут чувствовать или понимать те вещи, которые понимают люди. Однако каждое доказательство в каждой из этих книг ошибочно, поскольку так или иначе предполагает то, что оно призвано доказать, — существование некой волшебной искры, не имеющей никаких обнаруживаемых свойств.

У меня нет терпения к таким аргументам. Нам не следует искать какую-то недостающую часть. Человеческая мысль состоит из множества ингредиентов, и в каждой машине, которую мы когда-либо создавали, не хватает десятков или сотен из них! Сравните то, что сегодня делают компьютеры, с тем, что мы называем «мышлением». Очевидно, что человеческое мышление гораздо более гибкое, изобретательное и адаптируемое. Если в современной компьютерной программе что-то пойдет даже немного не так, машина либо остановится, либо выдаст неправильные или бесполезные результаты. Когда человек думает, все тоже постоянно идет не так, но это редко нам мешает. Вместо этого мы просто пробуем что-то другое. Мы смотрим на нашу проблему по-другому и переключаемся на другую стратегию. Человеческий разум работает по-разному. Что дает нам возможность сделать это?

В мозге есть сотни специализированных структур. Если вы случайно повредите некоторые из них, вы можете потерять способность запоминать названия животных. Еще одна травма может лишить вас возможности строить долгосрочные планы. Еще один вид нарушений может сделать вас склонным к внезапному произнесению грязных слов из-за повреждения механизма, который обычно подвергает цензуре такого рода выражения. Из тысяч подобных фактов мы знаем, что алгоритмы работы мозга очень разнообразны.

Таким образом, ваши знания представлены в различных формах, которые хранятся в разных областях мозга и используются разными процессами. Каковы эти представления? Мы пока не знаем. Однако в области искусственного интеллекта исследователи нашли несколько полезных способов представления знаний, каждый из которых лучше подходит для одних целей, чем для других. Самые популярные из них используют наборы правил «Если-То». В других системах используются структуры, называемые «фреймами», которые напоминают заполненные формы. Однако другие программы используют сети или схемы, напоминающие древовидные сценарии. Некоторые системы хранят знания в предложениях, подобных языку, или в выражениях математической логики. Программист начинает любую новую работу с попытки решить, какое представление лучше всего справится с поставленной задачей. Обычно компьютерная программа использует только одно представление, и если это не удается, система выходит из строя. Этот недостаток оправдывает распространённые жалобы на то, что компьютеры на самом деле «не понимают», что они делают.

Но что значит понять? Многие философы заявляли, что понимание (или значение, или сознание) должно быть базовой, элементарной способностью, которой может обладать только живой разум. На мой взгляд, это утверждение является симптомом «зависти к физикам» — то есть они завидуют тому, как хорошо физическая наука объяснила так много с точки зрения столь небольшого количества принципов. Физики преуспели, отвергая все объяснения, которые кажутся слишком сложными, и вместо этого искали простые. Однако этот метод не работает, когда мы имеем дело со всей сложностью мозга. Вот краткое изложение того, что я сказал о понимании в своей книге « Общество разума». «Если вы понимаете что-то только одним способом, то на самом деле вы вообще этого не понимаете. Это потому, что, если что-то идет не так, вы застреваете в мысли, которая просто сидит в вашем уме, и ей некуда идти. Тайна того, что что-либо значит для нас, зависит от того, как мы связали это со всеми другими вещами, которые мы знаем.  Вот почему, когда кто-то заучивает нечто «наизусть», мы говорим, что он на самом деле ничего не понимает. Однако, если у вас есть несколько разных подходов, то когда один подход терпит неудачу, вы можете попробовать другой. Конечно, установление слишком большого количества неразборчивых связей превратит разум в кашу. Но хорошо связанные представления позволяют вам переворачивать идеи в уме, представлять вещи с разных точек зрения, пока не найдете тот, который работает для вас. И это то, что мы подразумеваем под мышлением!»

Я думаю, что эта гибкость объясняет, почему в данный момент, думать - так легко для нас, и сложно для компьютеров. В «Обществе разума» я предполагаю, что мозг редко использует только одно представление. Вместо этого он всегда запускает несколько сценариев параллельно, чтобы всегда было доступно несколько точек зрения. Более того, каждая система контролируется другими системами более высокого уровня, которые отслеживают ее работу и при необходимости переформулируют проблемы. Поскольку каждая часть и процесс мозга могут иметь недостатки, нам следует ожидать, что найдутся другие части, которые попытаются обнаружить и исправить такие ошибки.

Чтобы эффективно мыслить, вам нужны несколько процессов, которые помогут вам описывать, предсказывать, объяснять, абстрагировать и планировать, что ваш разум должен делать дальше. Причина, по которой мы можем так хорошо мыслить, заключается не в том, что мы обладаем таинственными искрящимися талантами и дарованиями, а в том, что мы используем сообщества агентств, которые работают сообща, чтобы не дать нам застрять. Когда мы узнаем, как работают эти сообщества, мы сможем поместить их и в компьютеры. Тогда, если одна процедура в программе застрянет, другая может предложить альтернативный подход. Если бы вы увидели, как машина делает подобные вещи, вы бы наверняка подумали, что она обладает сознанием.

Провалы этики

Эта статья касается наших прав иметь детей, изменять наши гены и умереть, если мы того пожелаем. Пока ни одна популярная этическая система, будь то гуманистическая или религиозная, не показала себя способной противостоять вызовам, с которыми мы уже столкнулись. Сколько людей должно населять Землю? Какими людьми они должны быть? Как нам следует разделить доступное пространство? Очевидно, что мы должны изменить наши представления о рождении дополнительных детей. Индивидуумы сейчас зачинаются случайно. Однако когда-нибудь их можно будет «сконструировать» в соответствии с продуманными желаниями и замыслами. Более того, когда мы создаем новый мозг, он не обязательно должен начинаться так же, как наш, с очень небольшими знаниями о мире. Какие вещи должны знать наши дети разума? Сколько из них мы должны произвести и кто должен определять их характеристики?

Традиционные системы этического мышления ориентированы главным образом на отдельных людей, как если бы они были единственной ценной вещью. Очевидно, мы также должны учитывать права и роли существ более крупного масштаба, таких как сверхлюди, которых мы называем культурами, и великие, растущие системы, называемые науками, которые помогают нам понимать другие вещи. Сколько таких сущностей нам нужно? Какие виды нам больше всего нужны? Нам следует опасаться тех, кто заперт в формах, препятствующих дальнейшему росту. Некоторые варианты будущего никогда не рассматривались: представьте себе схему, которая могла бы проанализировать ваше и мое мышление, а затем составить новый, объединенный разум, основанный на этом общем опыте.

Что бы ни принесло неизвестное будущее, мы уже меняем правила, которые нас создали. Хотя большинство из нас будут бояться перемен, другие наверняка захотят избавиться от наших нынешних ограничений. Когда я решил написать эту статью, я опробовал эти идеи на нескольких группах и попросил их ответить на неформальные опросы. Я был поражен, обнаружив, что по крайней мере три четверти аудитории, кажется, считают, что продолжительность нашей жизни уже слишком велика. «Зачем кому-то хотеть жить пятьсот лет? Разве это не будет скучно? Что, если бы ты пережил всех своих друзей? Что бы ты делал со всем этим временем?»  Казалось, они втайне боялись, что не заслуживают такой долгой жизни. Я нахожу весьма тревожным, что так много людей смирились со смертью. Разве не могут быть опасны такие люди, которые чувствуют, что им нечего терять?

Мои друзья-ученые не проявляли такой обеспокоенности. «Есть бесчисленное множество вещей, которые я хочу выяснить, и есть так много проблем, которые я хочу решить, что мне понадобились бы многие столетия», — говорили они. Конечно, бессмертие показалось бы непривлекательным, если бы оно означало бесконечную немощь, слабость и зависимость от других, но мы предполагаем состояние идеального здоровья.

Унаследуют ли роботы землю? Да, но они будут нашими детьми. Мы обязаны своим разумом смертям и жизням всех существ, когда-либо участвовавших в борьбе под названием Эволюция. Наша задача — проследить за тем, чтобы вся эта работа не оказалась бессмысленной.