Мы не нужны будущему?
В апреле 2000 года в известном американском журнале "Wired" появилась статья Билла Джоя «Почему мы не нужны будущему», которая вызвало оживлённую дискуссию во всём мире. В ней Джой выразил озабоченность стремительным и неконтролируемым развитием высоких технологий, являющимся источником опасности для всего человечества.Напомним, Билл Джой - американский учёный в области теории вычислительных систем, разработчик программного обеспечения для UNIX, один из основателей и бывший руководитель исследовательского отдела Sun Microsystems.
Джой утверждает, что наши наиболее могущественные технологии 21-го века - робототехника, генная инженерия и нанотехнология - угрожают подвергнуть человеческий род опасности.
Джой пишет, что сам раньше считал "одушевленных роботов", персонажами фантастических романов; но последние события заставили его поверить в возможность появления таких роботов в недалеком будущем. Одним из таких событий был разговор с изобретателем и писателем Рэем Курцвейлом (Ray Kurzweil) на одной из конференций. Курцвейл дал Джою прочитать препринт своей книги "Эра одушевленных машин". Один из фрагментов - цитата, принадлежащая, как потом оказалось, Теодору Качинскому (Theodore Kaczynski) , известному, как Unabomber, который организовал серию взрывов в США, - привлекла внимание Джоя.
Качинский строил свою аргументацию, как Евклид строил свою геометрию - теорема за теоремой. Предположим, пишет он, что компьютерщики достигнут успеха в создании роботов, способных выполнять все, что делают люди, но лучше их. Далее возникает два варианта поведения - либо отдать все на усмотрение роботов, либо сохранить контроль за собой. Если отдать все на усмотрение роботов, то будущее человечества окажется на их милости. Весьма скоро люди перестанут вообще понимать смысл происходящего, поскольку сложность процессов будет быстро расти.
Если же люди решат сохранить за собой контроль над компьютерами, то в руках рядового человека окажется управление какими-то маленькими киберсистемами - дом, машина, РС. В руках же тончайшего слоя элиты останется - так же, как и сейчас - контроль над колоссальными системами управления корпорациями и государством. Возможности этого слоя по управлению обществом станут почти безграничными - причем по управлению, незаметному для самого общества. Элита управляла обществом и раньше, однако при этом появится очень важное новое обстоятельство - рядовые жители будут больше не нужны экономике. Производство, наконец, освободится от зависимости от живых людей. Если элита окажется жестока - то она просто уничтожит ненужный балласт; если же элита будет "гуманна" - сделает из них избалованных домашних животных, которых кормят роботы и следят за тем, психику подопечных ничто не тревожило.
Далее Джой приводит интересный пример, взятый у Ганса Моравека: более десяти миллионов лет назад Северная и Южная Америки были разделены проливом; Южная была населена сумчатыми животными, наподобие Австралии. Позже дно поднялось, континенты соединились, и сумчатые всего за несколько тысяч лет были вытеснены плацентными, обладающими более эффективным метаболизмом. К моменту появления европейцев в Америке от сумчатых остались одни окаменелости. Так же на идеальном свободном рынке совершенные роботы вытеснят живых людей, труд которых обходится дороже, а эффективность меньше, пишет он.
Действительно, трудно придумать существа более расточительные, чем современные жители развитых стран. Дома в сотни квадратных метров на двоих - троих человек, хромированные джипы весом по две тонны, на 18-дюймовых колесах, с помощью которых мелкие юные особи перемещаются из дома до школы и обратно по ровнейшему асфальту, огромные количества "расходных материалов" - еды, одежды, шампуней, стиральных порошков. Роботам все это не нужно; они по 24 часа в сутки могут производить подобных себе или еще более совершенных, обходясь без баров и бассейнов.
Однако вытеснение - это приведенный Моравеком для убедительности пример; действительная позиция Моравека состоит в том, что роботы будут наследниками людей, раса которых угаснет постепенно. Еще один знакомый Джоя, Дэнни Хиллис, сформулировал это примерно так: "Конечно, я люблю свое тело, как никто другой; но если я получу вдвое больше в кремниевом, я возьму его".
В настоящее время возник и развивается ряд технологий, на основе которых возможно создание суперроботов. Это генетика, нанотехнологии и роботика, суммарно обозначенные в статье, как технологии GNR. Уже созданы макеты логических элементов размером в несколько молекул; молекулярные манипуляторы, способные собирать устройства размером с бактерию. Успехи нанотехнологий позволяют рассчитывать, что закон Мура будет действовать в обозримом будущем; в этом случае компьютеры достигнут сложности, сравнимой с человеческой, примерно к 2030 году.
Комбинация вычислительной мощности новых компьютеров с физическими методами манипулирования материей и генетическими технологиями освобождает колоссальную преобразующую силу - пишет Джой. Главное в этой комбинации то, что она способна воспроизводить себя, реплицироваться, без участия человека. Такого еще не было в истории человечества. И дальше:"Теперь, перед перспективой создания вычислительной мощности, близкой к человеческой, примерно через 30 лет, мне приходит в голову мысль: что я, возможно, работаю над созданием инструментов, которые позволят создать технологии, заменяющие нас самих. Как я себя при этом чувствую? Очень неуютно".
Джой пишет, что он - не луддист, призывающий разбить все машины, что он все время работал над конкретными проблемами и в конкретных проектах. Он даже не думал о том, что в этой области могут существовать какие-то моральные проблемы - такие, как в работе над военными технологиями. Но беда в том, что мы все вовлечены в создание инноваций, последовательность которых приводит к результатам, о которых мы не предполагали, и при этом не в силах выйти из игры. Каждый из нас работает на свою фирму, а фирмы стремятся обойти другие в конкурентной борьбе, создавая все более изощренные технологии и устройства. Мы не в силах отказаться от работы, а фирмы - от участия в конкуренции; в результате общими усилиями мы создаем нечто, совершенно непредусмотренное.
Если раньше Джой полагал, что рост по закону Мура может приостановиться к 2010 году, то последние события - такие, как появление молекулярных технологий -заставляют его думать, что рост продолжится.
Еще один источник и составная часть опасений Джоя, Эрик Дрекслер предполагает возможность создания ассемблеров - не языков программирования, а устройств - которые, манипулируя атомами и молекулами, могут создать по заданной программе любую вещь. Джой уверен, что прообразы таких устройств могут быть созданы в ближайшие двадцать лет. Так что машины умнее людей маячат на горизонте.
Можно представить еще одну возможность, еще один вариант для нас, людей, - и об этом говорят эскаписты - загрузить наши личности в компьютеры. Но останемся ли мы при этом людьми? Джой опасается, что нет. Действительно, кто знает, как изменится его душа, получив возможность подключаться к органам чувств, расположенным на другом конце света, переписываться из компьютера в компьютер, непосредственно читать память других душ, создавать копии и синхронизировать их вновь.
Он вновь и вновь возвращается к одной мысли - о том, что, раз возникнув, самовоспроизводящееся нечто - комплекс роботов, "ассемблеров" и генетически сконструированных организмов - сможет эволюционировать без нашего участия и в непредсказуемом направлении. "Как только разумный робот будет создан, останется только маленький шаг до возникновения рода роботов - до разумного робота, который может сделать свою усовершенствованную копию". Добавим: а эта усовершенствованная копия - еще более усовершенствованную, и так без конца.
Мораль, которую из всего этого выводит Билл Джой, довольно обычна: исследователи должны быть ответственнее, думать о последствиях своих работ, не забывать об этике и читать Далай-Ламу...
Оригинал статьи на сайте “Wired”: "Why the future doesn't need us", Bill Joy
Опубликовано на русском в журнале «Компьютерра» в 2001г.