Рэймонд Курцвейл. Закон ускоряющейся отдачи. (часть 5)
Предыдущая часть
Очевидная опасность для будущего
Технологии всегда были обоюдоострым мечом, принося нам более продолжительную и здоровую жизнь, свободу от монотонного физического и умственного труда и множество новых творческих возможностей, с одной стороны, и создавая новые и существенные опасности, с другой. Мы всё ещё живём сегодня с запасами ядерного оружия (не все из которых, кажется, хорошо учтены), достаточными, чтобы положить конец жизни всех млекопитающих на планете. Биоинженерия находится на ранних стадиях огромных успехов в борьбе с болезнями и процессами старения. Однако, в обычной лаборатории биоинженерии колледжа скоро будут иметься знания и средства (а в более оснащённых лабораториях они имеются уже сейчас) для создания вредоносных патогенов, более опасных, чем ядерное оружие. По мере того, как технологии ускоряются, приближаясь к Сингулярности, мы будем видеть те же взаимосвязанные потенциалы: праздник творчества, основанный на человеческом интеллекте, расцветающий в триллион раз, будет сопряжён со многими серьёзными новыми опасностями.
Рассмотрим неограниченную репликацию наноботов. Технология наноботов требует миллиарды или триллионы таких интеллектуальных устройств, чтобы быть полезной. Наиболее экономически эффективным способом масштабирования до таких уровней является самовоспроизведение, по сути тот же подход, который используется в биологическом мире. И точно так же, как биологическое самовоспроизведение, дающее сбой (т.е. рак) приводит к биологическому разрушению, дефект в механизме, ограничивающем саморепликацию наноботов, может поставить под угрозу все физические объекты, биологические или иные.
Другая важная проблема состоит в том, "кто контролирует наноботов?" и "перед кем наноботы отчитываются?" Организации (например, правительства, экстремистские группы) или просто умные люди могут поместить триллионы необнаруживаемых наноботов в воду или продукты питания человека или всего населения. Эти "шпионские" нанороботы смогут отслеживать, влиять на, и даже контролировать наши мысли и действия. В дополнение к введению действительно шпионских наноботов, существующие наноботы могут подвергаться воздействию программных вирусов и других программных методов "взлома". Когда программы работают в нашем мозгу, вопросы конфиденциальности и безопасности приобретают новую актуальность.
Я рассчитываю, что творческие и конструктивные применения этой технологии будут доминировать, как, я верю, и происходит сегодня. Однако, будет играть свою роль и существенное (и всё более заметное) обеспокоенное и конструктивное луддитское движение (т.е. противники технологий, вдохновлённые ткачами начала XIX века, которые в знак протеста уничтожали ткацкие станки).
Если бы мы представили описание опасностей, которые существуют сегодня, людям, которые жили пару сотен лет назад, они бы сочли безумием идти на такой риск. С другой стороны, сколько людей в 2000 году действительно хотели бы вернуться к коротким, жестоким, наполненным болезнями, бедностью, подверженным стихийным бедствиям жизням, которые 99 процентов человечества проживали пару веков назад? Мы можем романтизировать прошлое, но вплоть до недавнего времени большая часть человечества жила чрезвычайно хрупкой жизнью, где одно вполне заурядное невезенье могло означать полную катастрофу. Значительная часть нашего вида всё ещё живёт в подобных условиях, что является по крайней мере одной из причин для продолжения технического прогресса и сопутствующего ему экономического роста.
Люди часто проходят три этапа в изучении влияния будущей технологии: благоговение и удивление по поводу её способности преодолеть вековые проблемы, затем чувство страха перед новым набором серьёзных опасностей, которые сопровождают эти новые технологии, а затем, наконец, надежду и осознание того, что единственный жизнеспособный и ответственный путь состоит в том, чтобы выбрать осторожный курс, следуя которому можно будет воспользоваться всеми ожидаемыми возможностями и постараться избежать опасностей.
В своей статье в WIRED "Почему мы не нужны будущему", Билл Джой красноречиво описал нашествие чумы в прошлые века и то, как новые самовоспроизводящиеся технологии, такие как мутантные биоинженерные патогены и "наноботы", могут, выйдя из-под контроля, принести давно забытые эпидемии. Эти опасности на самом деле реальны. С другой стороны, признаёт Джой, благодаря технологическим достижениям, таким как антибиотики и улучшенная санитария, мы избавились от распространённости подобных эпидемий. Страдание в мире продолжается и требует нашего пристального внимания. Должны ли мы сказать миллионам людей, страдающих от рака и других разрушительных состояний, что мы отменяем разработку всех биоинженерных методов лечения, потому что существует риск того, что эти же технологии когда-нибудь могут быть использованы в злонамеренных целях? Задав риторический вопрос, я понимаю, что есть желающие сделать именно это, но думаю, что большинство людей согласятся с тем, что такой широкомасштабный отказ не является ответом.
Сохраняющаяся возможность облегчить человеческие страдания является одной из важных причин дальнейшего технического прогресса. Настолько же убедительными являются и очевидные экономические выгоды, о которых я говорил выше, и которые будут продолжать ускоряться в предстоящие десятилетия. Постоянное ускорение многих взаимосвязанных технологий - это дороги, вымощенные золотом (здесь я использую множественное число, потому что технологии явно не являются единственным путём). В условиях конкуренции идти по этим дорогам - экономический императив. Отказ от технического прогресса был бы экономическим самоубийством для отдельных лиц, компаний и стран.
Всё это подводит нас к проблеме отказа, которая является самой противоречивой рекомендацией Билла Джоя и его личным выбором. Я чувствую, что отказ на определённом уровне является частью ответственного и конструктивного ответа на эти реальные опасности. Однако проблема заключается именно в том, на каком уровне мы должны отказаться от технологии?
Тед Казински (Ted Kaczynski) заставил бы нас отказаться вообще от всего. Это, на мой взгляд, не является ни желательным, ни осуществимым, и тщетность такой позиции только подчёркивается бессмысленностью плачевной тактики Казинского.
Другим подходом было бы отказаться от определённых направлений; например, нанотехнологии можно посчитать слишком опасными. Но такой отказ "широкими мазками" также несостоятелен. Нанотехнологии - это просто неизбежный конечный результат постоянной тенденции к миниатюризации, которая пронизывает все наши технологии. Это отнюдь не единый централизованный заказ, это направление развития множества проектов с огромным разнообразием целей.
Один наблюдатель писал:
"Ещё одной причиной, по которой индустриальное общество не может быть реформировано ... является то, что современные технологии представляют собой единую систему, в которой все части зависят друг от друга. Вы не можете избавиться от "плохих" частей технологии и сохранить только "хорошие" части. Возьмите, к примеру, современную медицину. Прогресс в медицине зависит от прогресса в области химии, физики, биологии, информатики и других областях. Современное лечение требует дорогого высокотехнологичного оборудования, которое может быть создано только технологически прогрессивным, экономически богатым обществом. Очевидно, что без всего комплекса технологий и того, что с ним связано, не может быть и большого прогресса в медицине".
Наблюдатель, которого я цитирую, всё тот же Тед Казински. Хотя можно было бы должным образом оппонировать Казинскому как авторитету, я считаю, что он прав в отношении сильно взаимосвязанной природы выгод и рисков. Тем не менее, мы с Казинским явно расходимся в общей оценке относительного баланса между ними. С Биллом Джоем мы обсуждали этот вопрос как публично, так и в частном порядке, и мы оба считаем, что технологии будут и должны развиваться, и что мы должны активно заниматься их тёмной стороной. Если мы с Биллом в чём-то не согласны, то это конкретные случаи отказа от технологий, которые и возможны, и желательны.
Широкий отказ от технологий только загонит их в подполье, где развитие будет продолжаться без этических ограничений и регулирования. В такой ситуации опыт использования технологий приобретут только мало надёжные, мало ответственные пользователи (например, террористы).
Я действительно считаю, что отказ на определённом уровне должен быть частью нашей этической реакции на опасность технологий двадцать первого века. Одним из конструктивных примеров этого является предлагаемая этическая норма Института Форсайта (Foresight Institute), основанного пионером нанотехнологий Эриком Дрекслером (Eric Drexler), о том, что нанотехнологи соглашаются отказаться от разработки физических объектов, которые могут самовоспроизводиться в естественной среде. Другим примером является запрет на самореплицирующиеся физические объекты, которые содержат свои собственные коды для саморепликации. В том, что нанотехнолог Ральф Меркл (Ralph Merkle) называет "Широковещательной Архитектурой", таким объектам придётся получать подобные коды с централизованного защищённого сервера, который будет гарантировать отсутствие нежелательной репликации. Широковещательная Архитектура невозможна в биологическом мире, так что тут у нас есть по крайней мере один механизм, который может сделать нанотехнологию более безопасной, чем биотехнология. С другой стороны, нанотехнологии потенциально более опасны, потому что наноботы могут быть физически сильнее, чем сущности на основе белка, и более умны. В конечном итоге станет возможно объединить их, используя нанотехнологии для предоставления кодов биологическим объектам (заменяя ДНК), и в этом случае биологические объекты могут использовать гораздо более безопасную Широковещательную Архитектуру.
Наша этика, как этика ответственных технологов, помимо прочих профессиональных этических принципов, должна включать в себя подобные узконаправленные ограничения. Другие меры защиты должны включать контроль со стороны регулирующих органов, разработку "иммунных" ответных мер для конкретных технологий, а также надзор с помощью компьютеров со стороны правоохранительных организаций. Многие люди не знают, что наши спецслужбы уже используют передовые технологии, такие как автоматическое определение слов, для мониторинга значительного потока телефонных разговоров. По мере продвижения вперёд, баланс наших неотъемлемых прав на неприкосновенность частной жизни с нашей необходимостью защиты от злонамеренного использования мощных технологий двадцать первого века будет одной из многих серьёзных проблем. Это одна из причин того, что проблемы, подобные "закладкам" в системах шифрования (благодаря которым правоохранительные органы имели бы доступ к информации, в противном случае недоступной), или системе отслеживания электронной почты ФБР "Carnivore" оказались настолько спорными.
В качестве позитивного примера мы можем рассмотреть один недавний технологический вызов. Сегодня существует новая форма полностью не биологической самовоспроизводящейся сущности, которой не было всего несколько десятилетий назад: компьютерный вирус. Когда эта форма деструктивного вторжения впервые появилась, высказывались серьёзные опасения, что, по мере того, как она будет становиться всё более изощрённой, программные патогены смогут разрушить саму среду компьютерной сети, в которой они живут. Однако "иммунная система", которая возникла в ответ на эту проблему, оказалась весьма эффективной. Хотя разрушительные самореплицирующиеся программные объекты время от времени наносят ущерб, подобный ущерб - это лишь малая часть выгоды, которую мы получаем от компьютеров и каналов связи, которые их связывают. Никто не предложил бы нам покончить с компьютерами, локальными сетями и Интернетом из-за программных вирусов.
Можно было бы возразить, что компьютерные вирусы не имеют смертельного потенциала биологических вирусов или разрушительности нанотехнологий. Хотя это и правда, она только подтверждает мои наблюдения. Тот факт, что компьютерные вирусы обычно не смертельны для людей, означает лишь то, что всё больше людей хотят их создавать и выпускать. Это также означает, что наш ответ на опасность гораздо менее интенсивен. И наоборот, когда речь идёт о самовоспроизводящихся объектах, которые потенциально смертельны в больших масштабах, наша реакция на всех уровнях будет гораздо более серьёзной.
Технологии останутся обоюдоострым мечом, а история двадцать первого века ещё не написана. Они представляют огромную силу, которая будет использована для достижения целей всего человечества. У нас нет иного выбора, кроме как усердно работать над применением этих ускоряющих технологий для продвижения наших человеческих ценностей, несмотря на то, что зачастую кажется, что отсутствует консенсус относительно того, какими должны быть эти ценности.
Жизнь навсегда
Как только технология переноса сознания будет усовершенствована и полностью проработана, позволит ли это нам жить вечно? Ответ зависит от того, что мы подразумеваем под жизнью и смертью. Рассмотрим, что мы делаем сегодня с файлами нашего персонального компьютера. Когда мы переходим со старого персонального компьютера на более новую модель, мы не выбрасываем все наши файлы; скорее мы копируем их на новое оборудование. Хотя наши файлы не обязательно продолжают своё существование вечно, долговечность нашего программного обеспечения для персонального компьютера полностью отделена и не связана с аппаратным обеспечением, на котором оно работает. Однако, когда дело доходит до нашего личного файла разума, когда наше человеческое оборудование выходит из строя, программное обеспечение нашей жизни умирает вместе с ним. Однако, этого не будет происходить в том случае, если у нас есть средства для сохранения и восстановления тысяч триллионов байтов информации, представляющих схему, которую мы называем нашим мозгом.
Следовательно, долговечность файла с сознанием не будет зависеть от продолжительной жизнеспособности какого-либо конкретного аппаратного средства. В конечном счёте, люди, основанные на программном обеспечении, хотя они и значительно выходят за жёсткие рамки представления о людях, какими мы их знаем сегодня, будут жить в Интернете, проецируя тела, когда они им нужны, или когда захочется, включая виртуальные тела в различных сферах виртуальной реальности, тела - голографические проекции, физические тела, состоящие из роёв наноботов или другие нанотехнологии.
Следовательно, человек, основанный на программном обеспечении, будет свободен от ограничений какой-либо конкретной мыслительной среды. Сегодня каждый из нас ограничен лишь сотней триллионов связей, но люди в конце двадцать первого столетия смогут развивать своё мышление и мыслить без ограничений. Мы можем рассматривать это как форму бессмертия, хотя стоит отметить, что данные и информация не обязательно будут существовать вечно. Хотя долговечность информации не зависит от жизнеспособности оборудования, на котором она обрабатывается, долговечность зависит от её актуальности, полезности и доступности. Если вы когда-либо пытались извлечь информацию из устройства хранения данных устаревшей формы в старом малоизвестном формате (например, с катушки магнитной ленты из мини-компьютера 1970-х годов), вы поймёте проблемы, связанные с поддержанием жизнеспособности программного обеспечения. Однако, если мы будем усердно поддерживать наши файлы разума, хранить актуальные резервные копии и переносить их на текущие форматы и носители, тогда можно достичь формы бессмертия, по крайней мере, для людей, основанных на программном обеспечении. Наш файл разума - наша личность, навыки, воспоминания - всё это теряется сегодня, когда наше биологическое оборудование выходит из строя. Когда мы сможем получить доступ, сохранять и восстанавливать эту информацию, её долговечность больше не будет зависеть от нашего аппаратного обеспечения.
Является ли эта форма бессмертия концептуально тем же, чем и физический человек, каким мы его знаем сегодня, живущий вечно? В каком-то смысле это так, потому что, как я указывал ранее, наше современное Я также не является неизменной совокупностью материи. Сохраняются только наши структуры материи и энергии, да и они склонны постепенно изменяться. Аналогично, сохраняться, развиваться и постепенно изменяться будет сама структура человека-программы.
Но разве этот человек, основанный на моём файле разума, который мигрирует по множеству вычислительных субстратов и переживает любую конкретную мыслительную среду, на самом деле я? Мы возвращаемся к тем же вопросам сознания и идентичности, которые обсуждались со времён диалогов Платона. По мере того, как мы будем проживать двадцать первый век, они не останутся предметом утончённых философских дебатов, но станут вопросами жизненно важными, практическими, политическими и юридическими.
Смежный вопрос: "Желательна ли смерть?" Значительная часть наших усилий направлена на то, чтобы её избежать. Мы прилагаем чрезвычайные усилия, чтобы отсрочить её приход, и он действительно зачастую считается нежданным и трагическим событием. Тем не менее, нам может быть трудно жить без неё. Мы считаем, что смерть придаёт смысл нашей жизни. Это придаёт важность и ценность времени. Время может стать бессмысленным, если его будет слишком много.
Следующий шаг в эволюции и цель жизни
Всё-таки я рассматриваю освобождение человеческого разума от его серьёзных физических ограничений по объёму и времени жизни как необходимый следующий шаг в эволюции. Эволюция, на мой взгляд, и представляет собой цель жизни. То есть цель жизни вообще, и наших жизней, в частности - развиваться. Значит, Сингулярность не является серьёзной опасностью, которой следует избегать. На мой взгляд, следующая смена парадигмы представляет собой цель нашей цивилизации.
Что значит развиваться? Эволюция движется к большей сложности, большей элегантности, большему количеству знания, более высокому уровню интеллекта, большей красоте, большей креативности и большему количеству других абстрактных и тонких атрибутов, таких как любовь. И все эти вещи, только в бесконечной форме, мы считаем присущими Богу: бесконечное знание, бесконечная мудрость, бесконечная красота, бесконечное творчество, бесконечная любовь и так далее. Конечно, даже ускоряющийся прогресс в эволюции никогда не позволит достичь бесконечности, но, поскольку он растёт экспоненциально, то, безусловно, быстро движется в этом направлении. То есть, эволюция неумолимо движется к нашей концепции Бога, хотя никогда и не достигает этого идеала. Таким образом, освобождение нашего мышления от суровых ограничений его биологической формы может рассматриваться как важный духовный поиск.
Делая это утверждение, важно подчеркнуть, что такие термины, как эволюция, судьба и духовный поиск, являются наблюдениями за конечным результатом, а не основой для предсказаний. Я не утверждаю, что технологии будут развиваться до уровня человека и дальше за его пределы просто потому, что это наша судьба и результат духовного поиска. Скорее мои прогнозы являются результатом методологии, основанной на динамике, лежащей в основе (двойного) экспоненциального роста технологических процессов. Основной движущей силой технологии является экономический императив. Мы движемся к машинам с интеллектом уровня человека (и выше) в результате миллионов небольших достижений, каждое из которых имеет своё собственное экономическое обоснование.
На примере из моего собственного опыта в одной из моих компаний (Kurzweil Applied Intelligence): всякий раз, когда мы придумывали немного более интеллектуальную версию распознавания речи, новая версия неизменно имела большую ценность, чем предыдущее поколение, и, как результат, увеличивались продажи. Интересно отметить, что в примере с программным обеспечением для распознавания речи, три основных выживших конкурента были очень близки друг другу в уровне интеллекта своего программного обеспечения. Несколько других компаний, которые не смогли достичь такого уровня (например, Speech Systems), ушли из этого бизнеса. В любой конкретный момент времени мы могли бы продавать предпоследнюю версию нашей программы за, возможно, всего четверть цены текущей версии. Что касается версий нашей технологии, которые были два поколения назад, мы бы не смогли их даже просто подарить. Это явление относится не только к распознаванию образов и другому программному обеспечению "ИИ", но и ко всем продуктам, от хлебопечек до автомобилей. И если сам продукт не демонстрирует некоторый уровень интеллекта, то интеллект в методах производства и маркетинга оказывает большое влияние на успех и прибыльность предприятия.
Существует жизненно важный экономический императив для создания более интеллектуальных технологий. Интеллектуальные машины имеют огромное значение. Именно поэтому они создаются. Существуют десятки тысяч проектов, которые постепенно совершенствуют интеллектуальные машины различными способами. Поддержка "высоких технологий" в бизнес-сообществе (в основном по разработке программного обеспечения) чрезвычайно возросла. Когда в 1974 году я основал свою компанию по оптическому распознаванию символов (OCR) и синтезу речи (Kurzweil Computer Products, Inc.), в том году было проведено всего полдюжины высокотехнологичных IPO. Количество таких сделок увеличилось в сто раз, а количество вложенных долларов увеличилось более чем в тысячу раз за последние 25 лет. Только за четыре года, с 1995 по 1999 год, количество сделок с венчурным капиталом в сфере высоких технологий увеличилось с чуть более 1 миллиарда долларов США до примерно 15 миллиардов долларов США.
Мы будем продолжать создавать более мощные вычислительные механизмы, потому что это создаёт огромную ценность. Мы будем реконструировать человеческий мозг не просто потому, что это наша судьба, а потому, что там есть ценная информация, которая поможет понять, как построить более интеллектуальные (и более ценные) машины. Нам пришлось бы отменить капитализм и любое проявление экономической конкуренции, чтобы остановить эту прогрессию.
Ко второй половине этого столетия не будет чёткого различия между человеческим и машинным интеллектом. С одной стороны, у нас будет биологический мозг, значительно расширенный за счёт распределённых имплантов на основе наноботов. С другой стороны, у нас будет полностью небиологический мозг, который является копией человеческого мозга, хотя и значительно улучшенной. Вдобавок, у нас будет множество других разновидностей тесной связи между человеческим мышлением и технологиями, которые оно выпестовало.
В конечном счёте, небиологический интеллект будет доминировать, потому что он растёт с двойной экспоненциальной скоростью, тогда как биологический интеллект практически замер в своём развитии. Человеческое мышление застряло на скорости 1026 вычислений в секунду (для всех биологических людей), и эта цифра никогда заметно не изменится (за исключением небольшого увеличения в результате генной инженерии). Сегодня небиологическое мышление по-прежнему в миллионы раз медленнее, но к 2030 году всё переменится. К концу XXI века небиологическое мышление хотя и будет человеческого происхождения, превзойдёт его в триллионы триллионов раз. Следующий шаг в эволюции будет делать по-прежнему человеко-машинная цивилизация.
Большинство прогнозов на будущее, похоже, игнорируют революционное влияние Сингулярности на судьбу человечества: неизбежное появление компьютеров, которые соответствуют и, в конечном итоге, значительно превзойдут возможности человеческого мозга, будет не менее значительным, чем эволюция самого человеческого разума несколько тысяч веков назад. И основная причина подобной недальновидности заключается в том, что прогнозы основываются на интуитивном, но близоруко линейном взгляде на историю.
До того, как закончится нынешнее столетие, виды, создающие земные технологии, сольются с порождёнными ими вычислительными технологиями. Тогда не будет существовать чёткого различия между человеком и машиной. В конце концов, в чём разница между человеческим мозгом, увеличенным в триллион раз с помощью имплантов на основе наноботов, и компьютером, дизайн которого основан на сканировании человеческого мозга с высоким разрешением, а затем увеличен в триллионе раз?
Окончание следует...
Очевидная опасность для будущего
Технологии всегда были обоюдоострым мечом, принося нам более продолжительную и здоровую жизнь, свободу от монотонного физического и умственного труда и множество новых творческих возможностей, с одной стороны, и создавая новые и существенные опасности, с другой. Мы всё ещё живём сегодня с запасами ядерного оружия (не все из которых, кажется, хорошо учтены), достаточными, чтобы положить конец жизни всех млекопитающих на планете. Биоинженерия находится на ранних стадиях огромных успехов в борьбе с болезнями и процессами старения. Однако, в обычной лаборатории биоинженерии колледжа скоро будут иметься знания и средства (а в более оснащённых лабораториях они имеются уже сейчас) для создания вредоносных патогенов, более опасных, чем ядерное оружие. По мере того, как технологии ускоряются, приближаясь к Сингулярности, мы будем видеть те же взаимосвязанные потенциалы: праздник творчества, основанный на человеческом интеллекте, расцветающий в триллион раз, будет сопряжён со многими серьёзными новыми опасностями.
Рассмотрим неограниченную репликацию наноботов. Технология наноботов требует миллиарды или триллионы таких интеллектуальных устройств, чтобы быть полезной. Наиболее экономически эффективным способом масштабирования до таких уровней является самовоспроизведение, по сути тот же подход, который используется в биологическом мире. И точно так же, как биологическое самовоспроизведение, дающее сбой (т.е. рак) приводит к биологическому разрушению, дефект в механизме, ограничивающем саморепликацию наноботов, может поставить под угрозу все физические объекты, биологические или иные.
Другая важная проблема состоит в том, "кто контролирует наноботов?" и "перед кем наноботы отчитываются?" Организации (например, правительства, экстремистские группы) или просто умные люди могут поместить триллионы необнаруживаемых наноботов в воду или продукты питания человека или всего населения. Эти "шпионские" нанороботы смогут отслеживать, влиять на, и даже контролировать наши мысли и действия. В дополнение к введению действительно шпионских наноботов, существующие наноботы могут подвергаться воздействию программных вирусов и других программных методов "взлома". Когда программы работают в нашем мозгу, вопросы конфиденциальности и безопасности приобретают новую актуальность.
Я рассчитываю, что творческие и конструктивные применения этой технологии будут доминировать, как, я верю, и происходит сегодня. Однако, будет играть свою роль и существенное (и всё более заметное) обеспокоенное и конструктивное луддитское движение (т.е. противники технологий, вдохновлённые ткачами начала XIX века, которые в знак протеста уничтожали ткацкие станки).
Если бы мы представили описание опасностей, которые существуют сегодня, людям, которые жили пару сотен лет назад, они бы сочли безумием идти на такой риск. С другой стороны, сколько людей в 2000 году действительно хотели бы вернуться к коротким, жестоким, наполненным болезнями, бедностью, подверженным стихийным бедствиям жизням, которые 99 процентов человечества проживали пару веков назад? Мы можем романтизировать прошлое, но вплоть до недавнего времени большая часть человечества жила чрезвычайно хрупкой жизнью, где одно вполне заурядное невезенье могло означать полную катастрофу. Значительная часть нашего вида всё ещё живёт в подобных условиях, что является по крайней мере одной из причин для продолжения технического прогресса и сопутствующего ему экономического роста.
Люди часто проходят три этапа в изучении влияния будущей технологии: благоговение и удивление по поводу её способности преодолеть вековые проблемы, затем чувство страха перед новым набором серьёзных опасностей, которые сопровождают эти новые технологии, а затем, наконец, надежду и осознание того, что единственный жизнеспособный и ответственный путь состоит в том, чтобы выбрать осторожный курс, следуя которому можно будет воспользоваться всеми ожидаемыми возможностями и постараться избежать опасностей.
В своей статье в WIRED "Почему мы не нужны будущему", Билл Джой красноречиво описал нашествие чумы в прошлые века и то, как новые самовоспроизводящиеся технологии, такие как мутантные биоинженерные патогены и "наноботы", могут, выйдя из-под контроля, принести давно забытые эпидемии. Эти опасности на самом деле реальны. С другой стороны, признаёт Джой, благодаря технологическим достижениям, таким как антибиотики и улучшенная санитария, мы избавились от распространённости подобных эпидемий. Страдание в мире продолжается и требует нашего пристального внимания. Должны ли мы сказать миллионам людей, страдающих от рака и других разрушительных состояний, что мы отменяем разработку всех биоинженерных методов лечения, потому что существует риск того, что эти же технологии когда-нибудь могут быть использованы в злонамеренных целях? Задав риторический вопрос, я понимаю, что есть желающие сделать именно это, но думаю, что большинство людей согласятся с тем, что такой широкомасштабный отказ не является ответом.
Сохраняющаяся возможность облегчить человеческие страдания является одной из важных причин дальнейшего технического прогресса. Настолько же убедительными являются и очевидные экономические выгоды, о которых я говорил выше, и которые будут продолжать ускоряться в предстоящие десятилетия. Постоянное ускорение многих взаимосвязанных технологий - это дороги, вымощенные золотом (здесь я использую множественное число, потому что технологии явно не являются единственным путём). В условиях конкуренции идти по этим дорогам - экономический императив. Отказ от технического прогресса был бы экономическим самоубийством для отдельных лиц, компаний и стран.
Всё это подводит нас к проблеме отказа, которая является самой противоречивой рекомендацией Билла Джоя и его личным выбором. Я чувствую, что отказ на определённом уровне является частью ответственного и конструктивного ответа на эти реальные опасности. Однако проблема заключается именно в том, на каком уровне мы должны отказаться от технологии?
Тед Казински (Ted Kaczynski) заставил бы нас отказаться вообще от всего. Это, на мой взгляд, не является ни желательным, ни осуществимым, и тщетность такой позиции только подчёркивается бессмысленностью плачевной тактики Казинского.
Другим подходом было бы отказаться от определённых направлений; например, нанотехнологии можно посчитать слишком опасными. Но такой отказ "широкими мазками" также несостоятелен. Нанотехнологии - это просто неизбежный конечный результат постоянной тенденции к миниатюризации, которая пронизывает все наши технологии. Это отнюдь не единый централизованный заказ, это направление развития множества проектов с огромным разнообразием целей.
Один наблюдатель писал:
"Ещё одной причиной, по которой индустриальное общество не может быть реформировано ... является то, что современные технологии представляют собой единую систему, в которой все части зависят друг от друга. Вы не можете избавиться от "плохих" частей технологии и сохранить только "хорошие" части. Возьмите, к примеру, современную медицину. Прогресс в медицине зависит от прогресса в области химии, физики, биологии, информатики и других областях. Современное лечение требует дорогого высокотехнологичного оборудования, которое может быть создано только технологически прогрессивным, экономически богатым обществом. Очевидно, что без всего комплекса технологий и того, что с ним связано, не может быть и большого прогресса в медицине".
Наблюдатель, которого я цитирую, всё тот же Тед Казински. Хотя можно было бы должным образом оппонировать Казинскому как авторитету, я считаю, что он прав в отношении сильно взаимосвязанной природы выгод и рисков. Тем не менее, мы с Казинским явно расходимся в общей оценке относительного баланса между ними. С Биллом Джоем мы обсуждали этот вопрос как публично, так и в частном порядке, и мы оба считаем, что технологии будут и должны развиваться, и что мы должны активно заниматься их тёмной стороной. Если мы с Биллом в чём-то не согласны, то это конкретные случаи отказа от технологий, которые и возможны, и желательны.
Широкий отказ от технологий только загонит их в подполье, где развитие будет продолжаться без этических ограничений и регулирования. В такой ситуации опыт использования технологий приобретут только мало надёжные, мало ответственные пользователи (например, террористы).
Я действительно считаю, что отказ на определённом уровне должен быть частью нашей этической реакции на опасность технологий двадцать первого века. Одним из конструктивных примеров этого является предлагаемая этическая норма Института Форсайта (Foresight Institute), основанного пионером нанотехнологий Эриком Дрекслером (Eric Drexler), о том, что нанотехнологи соглашаются отказаться от разработки физических объектов, которые могут самовоспроизводиться в естественной среде. Другим примером является запрет на самореплицирующиеся физические объекты, которые содержат свои собственные коды для саморепликации. В том, что нанотехнолог Ральф Меркл (Ralph Merkle) называет "Широковещательной Архитектурой", таким объектам придётся получать подобные коды с централизованного защищённого сервера, который будет гарантировать отсутствие нежелательной репликации. Широковещательная Архитектура невозможна в биологическом мире, так что тут у нас есть по крайней мере один механизм, который может сделать нанотехнологию более безопасной, чем биотехнология. С другой стороны, нанотехнологии потенциально более опасны, потому что наноботы могут быть физически сильнее, чем сущности на основе белка, и более умны. В конечном итоге станет возможно объединить их, используя нанотехнологии для предоставления кодов биологическим объектам (заменяя ДНК), и в этом случае биологические объекты могут использовать гораздо более безопасную Широковещательную Архитектуру.
Наша этика, как этика ответственных технологов, помимо прочих профессиональных этических принципов, должна включать в себя подобные узконаправленные ограничения. Другие меры защиты должны включать контроль со стороны регулирующих органов, разработку "иммунных" ответных мер для конкретных технологий, а также надзор с помощью компьютеров со стороны правоохранительных организаций. Многие люди не знают, что наши спецслужбы уже используют передовые технологии, такие как автоматическое определение слов, для мониторинга значительного потока телефонных разговоров. По мере продвижения вперёд, баланс наших неотъемлемых прав на неприкосновенность частной жизни с нашей необходимостью защиты от злонамеренного использования мощных технологий двадцать первого века будет одной из многих серьёзных проблем. Это одна из причин того, что проблемы, подобные "закладкам" в системах шифрования (благодаря которым правоохранительные органы имели бы доступ к информации, в противном случае недоступной), или системе отслеживания электронной почты ФБР "Carnivore" оказались настолько спорными.
В качестве позитивного примера мы можем рассмотреть один недавний технологический вызов. Сегодня существует новая форма полностью не биологической самовоспроизводящейся сущности, которой не было всего несколько десятилетий назад: компьютерный вирус. Когда эта форма деструктивного вторжения впервые появилась, высказывались серьёзные опасения, что, по мере того, как она будет становиться всё более изощрённой, программные патогены смогут разрушить саму среду компьютерной сети, в которой они живут. Однако "иммунная система", которая возникла в ответ на эту проблему, оказалась весьма эффективной. Хотя разрушительные самореплицирующиеся программные объекты время от времени наносят ущерб, подобный ущерб - это лишь малая часть выгоды, которую мы получаем от компьютеров и каналов связи, которые их связывают. Никто не предложил бы нам покончить с компьютерами, локальными сетями и Интернетом из-за программных вирусов.
Можно было бы возразить, что компьютерные вирусы не имеют смертельного потенциала биологических вирусов или разрушительности нанотехнологий. Хотя это и правда, она только подтверждает мои наблюдения. Тот факт, что компьютерные вирусы обычно не смертельны для людей, означает лишь то, что всё больше людей хотят их создавать и выпускать. Это также означает, что наш ответ на опасность гораздо менее интенсивен. И наоборот, когда речь идёт о самовоспроизводящихся объектах, которые потенциально смертельны в больших масштабах, наша реакция на всех уровнях будет гораздо более серьёзной.
Технологии останутся обоюдоострым мечом, а история двадцать первого века ещё не написана. Они представляют огромную силу, которая будет использована для достижения целей всего человечества. У нас нет иного выбора, кроме как усердно работать над применением этих ускоряющих технологий для продвижения наших человеческих ценностей, несмотря на то, что зачастую кажется, что отсутствует консенсус относительно того, какими должны быть эти ценности.
Жизнь навсегда
Как только технология переноса сознания будет усовершенствована и полностью проработана, позволит ли это нам жить вечно? Ответ зависит от того, что мы подразумеваем под жизнью и смертью. Рассмотрим, что мы делаем сегодня с файлами нашего персонального компьютера. Когда мы переходим со старого персонального компьютера на более новую модель, мы не выбрасываем все наши файлы; скорее мы копируем их на новое оборудование. Хотя наши файлы не обязательно продолжают своё существование вечно, долговечность нашего программного обеспечения для персонального компьютера полностью отделена и не связана с аппаратным обеспечением, на котором оно работает. Однако, когда дело доходит до нашего личного файла разума, когда наше человеческое оборудование выходит из строя, программное обеспечение нашей жизни умирает вместе с ним. Однако, этого не будет происходить в том случае, если у нас есть средства для сохранения и восстановления тысяч триллионов байтов информации, представляющих схему, которую мы называем нашим мозгом.
Следовательно, долговечность файла с сознанием не будет зависеть от продолжительной жизнеспособности какого-либо конкретного аппаратного средства. В конечном счёте, люди, основанные на программном обеспечении, хотя они и значительно выходят за жёсткие рамки представления о людях, какими мы их знаем сегодня, будут жить в Интернете, проецируя тела, когда они им нужны, или когда захочется, включая виртуальные тела в различных сферах виртуальной реальности, тела - голографические проекции, физические тела, состоящие из роёв наноботов или другие нанотехнологии.
Следовательно, человек, основанный на программном обеспечении, будет свободен от ограничений какой-либо конкретной мыслительной среды. Сегодня каждый из нас ограничен лишь сотней триллионов связей, но люди в конце двадцать первого столетия смогут развивать своё мышление и мыслить без ограничений. Мы можем рассматривать это как форму бессмертия, хотя стоит отметить, что данные и информация не обязательно будут существовать вечно. Хотя долговечность информации не зависит от жизнеспособности оборудования, на котором она обрабатывается, долговечность зависит от её актуальности, полезности и доступности. Если вы когда-либо пытались извлечь информацию из устройства хранения данных устаревшей формы в старом малоизвестном формате (например, с катушки магнитной ленты из мини-компьютера 1970-х годов), вы поймёте проблемы, связанные с поддержанием жизнеспособности программного обеспечения. Однако, если мы будем усердно поддерживать наши файлы разума, хранить актуальные резервные копии и переносить их на текущие форматы и носители, тогда можно достичь формы бессмертия, по крайней мере, для людей, основанных на программном обеспечении. Наш файл разума - наша личность, навыки, воспоминания - всё это теряется сегодня, когда наше биологическое оборудование выходит из строя. Когда мы сможем получить доступ, сохранять и восстанавливать эту информацию, её долговечность больше не будет зависеть от нашего аппаратного обеспечения.
Является ли эта форма бессмертия концептуально тем же, чем и физический человек, каким мы его знаем сегодня, живущий вечно? В каком-то смысле это так, потому что, как я указывал ранее, наше современное Я также не является неизменной совокупностью материи. Сохраняются только наши структуры материи и энергии, да и они склонны постепенно изменяться. Аналогично, сохраняться, развиваться и постепенно изменяться будет сама структура человека-программы.
Но разве этот человек, основанный на моём файле разума, который мигрирует по множеству вычислительных субстратов и переживает любую конкретную мыслительную среду, на самом деле я? Мы возвращаемся к тем же вопросам сознания и идентичности, которые обсуждались со времён диалогов Платона. По мере того, как мы будем проживать двадцать первый век, они не останутся предметом утончённых философских дебатов, но станут вопросами жизненно важными, практическими, политическими и юридическими.
Смежный вопрос: "Желательна ли смерть?" Значительная часть наших усилий направлена на то, чтобы её избежать. Мы прилагаем чрезвычайные усилия, чтобы отсрочить её приход, и он действительно зачастую считается нежданным и трагическим событием. Тем не менее, нам может быть трудно жить без неё. Мы считаем, что смерть придаёт смысл нашей жизни. Это придаёт важность и ценность времени. Время может стать бессмысленным, если его будет слишком много.
Следующий шаг в эволюции и цель жизни
Всё-таки я рассматриваю освобождение человеческого разума от его серьёзных физических ограничений по объёму и времени жизни как необходимый следующий шаг в эволюции. Эволюция, на мой взгляд, и представляет собой цель жизни. То есть цель жизни вообще, и наших жизней, в частности - развиваться. Значит, Сингулярность не является серьёзной опасностью, которой следует избегать. На мой взгляд, следующая смена парадигмы представляет собой цель нашей цивилизации.
Что значит развиваться? Эволюция движется к большей сложности, большей элегантности, большему количеству знания, более высокому уровню интеллекта, большей красоте, большей креативности и большему количеству других абстрактных и тонких атрибутов, таких как любовь. И все эти вещи, только в бесконечной форме, мы считаем присущими Богу: бесконечное знание, бесконечная мудрость, бесконечная красота, бесконечное творчество, бесконечная любовь и так далее. Конечно, даже ускоряющийся прогресс в эволюции никогда не позволит достичь бесконечности, но, поскольку он растёт экспоненциально, то, безусловно, быстро движется в этом направлении. То есть, эволюция неумолимо движется к нашей концепции Бога, хотя никогда и не достигает этого идеала. Таким образом, освобождение нашего мышления от суровых ограничений его биологической формы может рассматриваться как важный духовный поиск.
Делая это утверждение, важно подчеркнуть, что такие термины, как эволюция, судьба и духовный поиск, являются наблюдениями за конечным результатом, а не основой для предсказаний. Я не утверждаю, что технологии будут развиваться до уровня человека и дальше за его пределы просто потому, что это наша судьба и результат духовного поиска. Скорее мои прогнозы являются результатом методологии, основанной на динамике, лежащей в основе (двойного) экспоненциального роста технологических процессов. Основной движущей силой технологии является экономический императив. Мы движемся к машинам с интеллектом уровня человека (и выше) в результате миллионов небольших достижений, каждое из которых имеет своё собственное экономическое обоснование.
На примере из моего собственного опыта в одной из моих компаний (Kurzweil Applied Intelligence): всякий раз, когда мы придумывали немного более интеллектуальную версию распознавания речи, новая версия неизменно имела большую ценность, чем предыдущее поколение, и, как результат, увеличивались продажи. Интересно отметить, что в примере с программным обеспечением для распознавания речи, три основных выживших конкурента были очень близки друг другу в уровне интеллекта своего программного обеспечения. Несколько других компаний, которые не смогли достичь такого уровня (например, Speech Systems), ушли из этого бизнеса. В любой конкретный момент времени мы могли бы продавать предпоследнюю версию нашей программы за, возможно, всего четверть цены текущей версии. Что касается версий нашей технологии, которые были два поколения назад, мы бы не смогли их даже просто подарить. Это явление относится не только к распознаванию образов и другому программному обеспечению "ИИ", но и ко всем продуктам, от хлебопечек до автомобилей. И если сам продукт не демонстрирует некоторый уровень интеллекта, то интеллект в методах производства и маркетинга оказывает большое влияние на успех и прибыльность предприятия.
Существует жизненно важный экономический императив для создания более интеллектуальных технологий. Интеллектуальные машины имеют огромное значение. Именно поэтому они создаются. Существуют десятки тысяч проектов, которые постепенно совершенствуют интеллектуальные машины различными способами. Поддержка "высоких технологий" в бизнес-сообществе (в основном по разработке программного обеспечения) чрезвычайно возросла. Когда в 1974 году я основал свою компанию по оптическому распознаванию символов (OCR) и синтезу речи (Kurzweil Computer Products, Inc.), в том году было проведено всего полдюжины высокотехнологичных IPO. Количество таких сделок увеличилось в сто раз, а количество вложенных долларов увеличилось более чем в тысячу раз за последние 25 лет. Только за четыре года, с 1995 по 1999 год, количество сделок с венчурным капиталом в сфере высоких технологий увеличилось с чуть более 1 миллиарда долларов США до примерно 15 миллиардов долларов США.
Мы будем продолжать создавать более мощные вычислительные механизмы, потому что это создаёт огромную ценность. Мы будем реконструировать человеческий мозг не просто потому, что это наша судьба, а потому, что там есть ценная информация, которая поможет понять, как построить более интеллектуальные (и более ценные) машины. Нам пришлось бы отменить капитализм и любое проявление экономической конкуренции, чтобы остановить эту прогрессию.
Ко второй половине этого столетия не будет чёткого различия между человеческим и машинным интеллектом. С одной стороны, у нас будет биологический мозг, значительно расширенный за счёт распределённых имплантов на основе наноботов. С другой стороны, у нас будет полностью небиологический мозг, который является копией человеческого мозга, хотя и значительно улучшенной. Вдобавок, у нас будет множество других разновидностей тесной связи между человеческим мышлением и технологиями, которые оно выпестовало.
В конечном счёте, небиологический интеллект будет доминировать, потому что он растёт с двойной экспоненциальной скоростью, тогда как биологический интеллект практически замер в своём развитии. Человеческое мышление застряло на скорости 1026 вычислений в секунду (для всех биологических людей), и эта цифра никогда заметно не изменится (за исключением небольшого увеличения в результате генной инженерии). Сегодня небиологическое мышление по-прежнему в миллионы раз медленнее, но к 2030 году всё переменится. К концу XXI века небиологическое мышление хотя и будет человеческого происхождения, превзойдёт его в триллионы триллионов раз. Следующий шаг в эволюции будет делать по-прежнему человеко-машинная цивилизация.
Большинство прогнозов на будущее, похоже, игнорируют революционное влияние Сингулярности на судьбу человечества: неизбежное появление компьютеров, которые соответствуют и, в конечном итоге, значительно превзойдут возможности человеческого мозга, будет не менее значительным, чем эволюция самого человеческого разума несколько тысяч веков назад. И основная причина подобной недальновидности заключается в том, что прогнозы основываются на интуитивном, но близоруко линейном взгляде на историю.
До того, как закончится нынешнее столетие, виды, создающие земные технологии, сольются с порождёнными ими вычислительными технологиями. Тогда не будет существовать чёткого различия между человеком и машиной. В конце концов, в чём разница между человеческим мозгом, увеличенным в триллион раз с помощью имплантов на основе наноботов, и компьютером, дизайн которого основан на сканировании человеческого мозга с высоким разрешением, а затем увеличен в триллионе раз?
Окончание следует...