Уорвик
Ольга БАЛЛА
БУНТ МАШИН, или ЧЕЛОВЕК ЗА ПРЕДЕЛАМИ САМОГО СЕБЯ
«- Да выключите вы эту железку! - приказала осмелевшая Ксения. -
- Никуда от них не деться! Скоро власть захватят.
- По крайней мере, порядка будет больше, - успел огрызнуться компьютер.
Тут Минц его и выключил».
К. Булычев
Он шёл по университету, и перед ним распахивались двери. Сами собой. Сам собой навстречу ему зажигался свет. «Доброе утро, профессор Уорвик», - басил персональный компьютер, спеша сообщить, сколько электронных посланий он успел получить сегодня, 24 августа 1998 года, и услужливо загружал для него нужные программы. Пространство как будто чувствовало человека. Оно следило за ним всеми своими датчиками, расставленными по зданию. Оно отражало его путь на экране компьютера.
Идиллическое единение человека с пространством было, увы, недолгим. Спустя всего 9 дней хирург извлёк из передней части бицепса у левого локтевого сустава 44-летнего англичанина маленькую стеклянную капсулу: всего 23 мм в длину и 3 - в диаметре. И огромное здание сразу лишилось связи с человеком. А тот ещё долго потом чувствовал, что ему чего-то не хватает: «как будто потерял близкого друга». Он признавался, что утратил полноту жизни.
Так окончил свои дни первый киборг, который существовал не в книге, не на экране, не в воображении - на самом деле.
Строго говоря, то, чем сделал себя Кевин Уорвик, профессор кибернетики в британском Редингском университете, не совсем киборг, хотя называет он себя именно так. Киборг - организм целиком кибернетический, откуда и название (его - сокращение от «cybernetic organism» - придумал в 1960 году М. Клайнс, специалист по космической медицине, и с тех пор фантасты употребили столько раз, что оно потеряло автора). Уорвик - скорее андроид: человек с «нечеловеческими», техническими частями организма. Но не будем привередливы: киборг так киборг. В конце-концов, у этого словоупотребления есть своя традиция. Уорвик сам разработал то, что превратило его в киборга: капсулу-имплантат с кремниевыми чипами и медной электромагнитной катушкой внутри. По сути это транспондер - «ответчик»: устройство, автоматически посылающее уникальный идентификатор в ответ на автоматический запрос. Такие устройства используют, чтобы отслеживать домашних животных. Катушка преобразовывала входящий радиосигнал в электрический и обеспечивала питание процессора, а чипы передавали 64-битный сигнал. Его улавливали антенны-считыватели, расставленные во всех дверных проёмах университета, и посылали на компьютер.
Эта многократно пересказанная история, разумеется, немедленно стала сенсацией - в ряду других сенсаций. Ещё бы: ведь Уорвик первым вживил чип себе под кожу. Правда, сам он говорил, что вживлять было не так уж нужно: вполне можно было просто носить чип в кармане или на руке в браслете. Но нужен был знаковый жест - его-то Уорвик и сделал.
Он подвергся обсуждению столь же шумному, сколь поверхностному и мимолётному. Та же судьба постигла и другие далеко идущие планы профессора Уорвика, которыми он щедро делился с публикой: он собирался ставить эксперименты по передаче - тоже через вживленные микрочипы - нервных импульсов. Сначала - самому себе. Он планировал вживить себе в нервную систему устройство, которое фиксировало бы его эмоции, движения, состояния и посылало их, в «оцифрованном» виде, на компьютер. Тот записывал бы их на жёсткий диск, а спустя какое-то время посылал бы обратно. И он переживал бы их снова. Следующий шаг - передача импульсов своего мозга, через компьютер и на расстоянии, телу другого человека, тоже с имплантированным микрочипом; на роль «приёмника» профессор прочил свою жену Айрин. (Это породило массу комментариев от зубоскальства о киберсексе через океан до эйфорических ожиданий того, что вот, наконец, стала достижимой и телепатия, и подлинное единение душ…) И сам Уорвик обещал, что в случае удачи, действительно, можно будет научиться передавать таким образом решительно любую информацию - не только слова, но и то, что прежде считалось «невыразимым», «несказанным» - вплоть до мимолётных душевных движений и физических ощущений, которым нет названия.
А далее планировалось срастить человека с компьютером и управлять машиной непосредственно, с помощью, буквально, одной силы мысли. (Кстати сказать, такие эксперименты уже проводятся: так, например, пытаются помочь парализованным больным в клинике Тюбингенского университета). А заодно расширить восприятие человеком мира. Уорвик замыслил имплантировать себе протез, который улавливал бы ультразвук. В принципе, можно подключить к нервной системе и другие сенсоры - и воспринимать инфракрасный свет, рентгеновские лучи, радиоволны...
Уорвик - совсем не единственный, кто ищет пути совмещения человека с компьютерами. Медицина уже лет 20 как использует электронные импланты, причём куда сложнее уорвиковских: сердечные стимуляторы, например. Существует имплант, который принимает сигналы от микрофона и речевого процессора и стимулирует нервные окончания среднего уха; нейростимулятор для больных паркинсонизмом - он блокирует разряды, вызывающие тремор и другие симптомы. Говорят, что нечто подобное можно будет вживить в мозг и смягчать тяжелые расстройства - клиническую депрессию, например. Уж не говоря об электронных руках и ногах. Так что то, что сделал Уорвик, ещё сравнительно просто. Но лишь внешне.
Он сделал себя знаковой фигурой, человеком-манифестом, своего рода практическим идеологом новой эры. Его книга « Наступление машин: Почему следующее поколение роботов будет править миром», в которой он изложил идеологию своей научной работы, как и следовало ожидать, немедленно стала бестселлером (она переведена и на русский). Ожидания, вполне апокалиптические, которые он в этой книге высказал, тоже более чем традиционны: уже совсем скоро самообучающиеся роботы так разовьются, что подчинят себе людей и будут их нещадно эксплуатировать. Интересен Уорвик тем, что не только предлагает усовершенствовать человека для противостояния грядущему наступлению машин, но проделывает это с самим собой. Его уже сравнивали с Эдвардом Дженнером, который в 1776 году заразил себя оспой, чтобы проверить вакцину.
Человек, по его мнению, должен составить достойную конкуренцию своему потенциальному врагу. Увы, для этого нет иных возможностей, кроме как самим уподобиться машинам. Во-первых - усилить себя за счёт возможностей, доступных машине. Во-вторых - говорить с ней напрямую собственным мозгом и таким образом получить как бы общие с ней язык и мышление. И постепенно, в-третьих - перестать быть противоположными машине, отдельными от неё. Вернуться в то изначальное единство, которое, казалось, человек навсегда утратил после того, как от него отделились машины. Именно это - цель его сенсационных экспериментов.
Вообще-то у профессора Уорвика, одного из ведущих специалистов мира в области робототехники, очень традиционная сфера интересов: разработка всё более изощрённых форм искусственного интеллекта и изучение его возможностей. Когда он в 1999-м приезжал в Россию, с ним приехали и плоды усилий его лаборатории. «Семь гномов», как именуют питомцев разработчики, обладают «интеллектом» на уровне насекомых, а одно - на уровне кошки. Они умеют между собой общаться. У них есть ещё и преимущество перед нами: их восприятие гораздо шире за счет ультрафиолетовых, инфракрасных и рентгеновских лучей. Но самое важное - и самое опасное - что эти существа способны самостоятельно обучаться, развивать и совершенствовать самих себя.
Один из них, например, сам научился двигаться в комнате так, чтобы не натыкаться на вещи. Но дальше - хуже. Без всякого разрешения или стартовой программы он влез в Интернет, связался с роботом из Нью-Йорка и научил его тому же самому. Вот тут-то, говорят, Уорвик и встревожился.
Самообучаясь, роботы стали обнаруживать даже разный «характер». Одни вели себя решительно, другие осторожнее… И это при том, что «интеллект» некоторых соответствовал всего 50 мозговым клеткам (это уровень улитки). У персонального компьютера он составляет 10 тысяч клеток - уровень пчелы. У человека - сто миллиардов. Разрыв не так велик, как может показаться - а главное, стремительно сокращается. Лет через десять, подумал Уорвик, компьютер догонит человека. Уже через двадцать мы будем далеко позади. А там…
И вот отсюда - вторая, пожалуй, главная задача Уорвика: контроль над искусственным интеллектом, который он сам же и создаёт, и разработка возможной защиты от него. То есть: новой конструкции самого человека.
Однако чем успешнее Уорвик искал средств защитить человека от машин, тем менее защищённым становился человек от себя самого.
Вскоре к Уорвику обратились сразу несколько известных крупных фирм с просьбами разработать системы контроля за их сотрудниками. Вживить им микросхемы - и сразу станет ясно, кто ленится, кто опаздывает и что они при этом делают... Заинтересовались и военные, и полицейские… Протесты в прессе начали раздаваться немедленно. Но уж не поздно ли: механизм-то запущен...
Стало ясно: «бунт машин», который нам обещают уже в этом столетии - лишь одна из возможных опасностей, и может быть, не самая реальная. Вторая - развитие технологий глобального контроля, теоретически вплоть до установления Тоталитарного Государства с тотальной слежкой за всеми его членами.
По сути дела, это одна и та же опасность. В обоих случаях против человека обернётся то, с чем он сам, не первый век и во всё больших масштабах, обращался к миру: стремление покорять, контролировать, манипулировать, использовать. «Механизация» человека, первые зловещие предвестия которой видят в экспериментах Уорвика и его коллег - не следствие ли предельного в своём роде очеловечивания машины?
Машина бунтующая, торжествующая, узурпирующая власть - это монстр, вырвавшийся из самого человека. Более того: это человеческое в чистом виде. Очищенном от всего «природного». Это - интеллект, противопоставленный всему остальному в существе, частью которого он изначально был. Принятый за настолько главное в человеке, что его стало возможным выделить в особую способность и даже создать класс существ, в которых эта способность действительно была бы главной. Едва ли не единственной.
Машина возникла задолго до машины в сегодняшнем понимании: железки с проводками-моторчиками-кнопками. Мэмфорд писал, что первая в мире машина - «архаическая мегамашина» - возникла аж в эпоху пирамид: она состояла из жёстко между собою связанных, жёстко подчинённых своему руководству человеческих существ. Машина, собственно, никогда и не была ничем иным, как одним из способов отношения человека к миру, организации человека и человеческого. Машина - это принцип и, как всякий принцип, может быть воплощена по-разному: и в белковых телах, и в железе, и в том, чего мы сейчас ещё себе не представляем. Здесь дело не в материале.
Человек ни за что не придумал бы машины, не будь он в какой-то своей части машиной сам, не чувствуй он машины в себе. Просто потребовалось время, в исторических масштабах не такое уж большое, пока сложилась культурная ситуация, в которой этот принцип смог наконец выйти на поверхность. И лишь вследствие этого - дождаться воплощения в металле и начать путь ко всё большему отчуждению от человека. Чтобы в конце концов предстать ему как совершенно внешняя, чуждая, даже враждебная сила.
Умный робот - это вынесенная во вне сущность человека, как её понимало европейское Новое время - включая, разумеется, и весь ХХ век с его потребительским утилитаризмом и представлениями о том, что мир надо переделать так, чтобы он был удобен человеку. А заодно переделать и самого человека, чтобы он был удобен сам себе. Это апофеоз рациональности и проектирования как типа отношения к жизни. Это сам человек Нового Времени, возведённый в степень, даже доведённый до собственного предела. Он - точный слепок гордыни человека и его принципиального стремления всё время превосходить самого себя (и своего Создателя…) - чтобы самоутверждаться. Быть всё умнее, всё эффективнее, всё сильнее… В пределе, значит, можно и самому стать роботом. Когда искусственная машина и искусственный человек под руками того же Уорвика и его коллег стремятся слиться в одно, ничего нового ведь не происходит: они всегда и были одним и тем же.
Бунтующая машина - это бунтующий человек. Это - то самое, что произошло бы, если бы все утопии человека нашего исторического типа (который, конечно, принимает себя за «человека вообще») - осуществились в своей полноте и точности. Если бы существо, которое по своему происхождению было человеком, полностью подчинило себя жёсткому набору функций - смыслы которых предельно утилитарны и исчерпываются самоутверждением, контролем, использованием всех наличных ресурсов мира и рациональной его переделкой.
По счастью, утопии неосуществимы. Хотя бы уже потому, что человек кое-чем отличается от своих идеальных портретов - роботов. Прежде всего тем, что состоит в слишком большой мере из неожиданностей, непредсказуемостей. Человек - любой человек, человек как вид - это тот, кто «играет не по правилам». Правила для него - скорее исключения (недаром нужно столько усилий, чтобы им следовать). В этой «неправильности» - огромная уязвимость человека, но в этом же и его сила, и источник его роста. Именно за счёт этого он способен превосходить и самого себя, и свои условия.
Если машина была задолго до железных автоматов и благополучно их, надо думать, переживёт - то переживёт всё это и человек: ведь и он - принцип. Самое время задуматься над тем, что интеллект - который и традиционный прогрессист Уорвик считает в человеке главным - занимает в нас не так уж много места. Он - только следствие сознания, которое вообще-то - главное состояние человеческого мозга, отличающее этот мозг от всех решительно остальных, существующих в природе, в том числе и от электронных. А что, если он - лишь инструмент ценностей и сил, которые «залегают» глубже него и не им определяются; лишь средство, возомнившее себя целью?…
Человек - не знания и не умения, не интеллект и не память, даже, наверное, не чувства и не интуиция. Он - глубокая возможность всего этого. И ещё умение всем этим распоряжаться и придавать всему этому значение.
Вложенный в роботов «интеллект», как бы ни превосходил человеческий по каким угодно параметрам - оболочка без ядра. У него есть всё, кроме одного: того, что придаёт ему смысл. Интеллект без сознания - как курица, которой отрубили голову. Побегает, побегает какое-то время по инерции - а потом ведь всё равно упадёт… И бегать-то будет, что примечательно, по кругу. Может быть, машинный «интеллект» - не интеллект вовсе, а только его имитация?
Р. Курцвайл, правда, обещал, что уже в 2029 году появится такое «программное обеспечение для интеллекта», которое будет вырабатывать «сознание». Но не будет ли это тоже лишь имитацией сознания?… Может быть, и само сознание - следствие чего-то более глубокого и важного?
Машине - чем она ни будь - не бывает стыдно. Перед ней нельзя быть виноватым. Её невозможно унизить. Один автор (А. Семёнов) заметил, что к машине не применима заповедь «не убий». Наверно, это самое точное, что мне приходилось читать на эту тему.
У роботов нет души. Можно сделать всё: и мышцы из силиконовых шлангов, и нервы-электроды, и память с разумом, превосходящие всё человеческое, и эмоции на искусственном лице изобразить - а вот с душой ну никак не получается. Возможно, вкладывать её - не в силах человеческих. Хотя бы потому, что она иной природы.
Один из идеологов кибернетизации, американец Ханс Моравец (один из множества тех, кто обещает, что уже к концу этого века машины так превзойдут человека, что и вовсе его вытеснят) восклицал: «Мне хочется столько знать, так почему я не могу расширить память моего мозга? Почему нервные импульсы в моём организме не передвигаются со скоростью света?… Почему я могу смотреть только вперёд и не вижу, что творится за моей спиной?… Почему я, наконец, не бессмертен? »
В устах самого Моравца все эти вопросы звучат явно риторически. Ответы на них как будто давно уже дают и Уорвик с коллегами, и многие другие учёные, которые занимаются тем же самым: наращивают биологические возможности человеческих и не человеческих тел за счёт электронных «протезов». Правда, процесс ещё в самом начале, и мы действительно ещё не представляем себе всех возможных последствий. Но ведь вопросы можно принять и всерьёз и попытаться на них ответить. Например, так: потому же, почему человек не может быть ростом в несколько сотен метров или не может языком ловить на лету насекомых. Видимо, у него есть некоторая естественная размерность и сопутствующая ей пластика функций и способностей. Попытки же, пренебрегая естественными пропорциями, что-то одно из этого или хоть всё сразу многократно увеличить, усилить, уменьшить или вовсе устранить - с большой вероятностью ведут к катастрофам. Мы сейчас стоим только на пороге будущих катастроф, поэтому не можем знать, какими они будут. Но что они впереди - будьте уверены. В конце концов катастрофичность - тоже в природе человека.
БУНТ МАШИН, или ЧЕЛОВЕК ЗА ПРЕДЕЛАМИ САМОГО СЕБЯ
«- Да выключите вы эту железку! - приказала осмелевшая Ксения. -
- Никуда от них не деться! Скоро власть захватят.
- По крайней мере, порядка будет больше, - успел огрызнуться компьютер.
Тут Минц его и выключил».
К. Булычев
Он шёл по университету, и перед ним распахивались двери. Сами собой. Сам собой навстречу ему зажигался свет. «Доброе утро, профессор Уорвик», - басил персональный компьютер, спеша сообщить, сколько электронных посланий он успел получить сегодня, 24 августа 1998 года, и услужливо загружал для него нужные программы. Пространство как будто чувствовало человека. Оно следило за ним всеми своими датчиками, расставленными по зданию. Оно отражало его путь на экране компьютера.
Идиллическое единение человека с пространством было, увы, недолгим. Спустя всего 9 дней хирург извлёк из передней части бицепса у левого локтевого сустава 44-летнего англичанина маленькую стеклянную капсулу: всего 23 мм в длину и 3 - в диаметре. И огромное здание сразу лишилось связи с человеком. А тот ещё долго потом чувствовал, что ему чего-то не хватает: «как будто потерял близкого друга». Он признавался, что утратил полноту жизни.
Так окончил свои дни первый киборг, который существовал не в книге, не на экране, не в воображении - на самом деле.
Строго говоря, то, чем сделал себя Кевин Уорвик, профессор кибернетики в британском Редингском университете, не совсем киборг, хотя называет он себя именно так. Киборг - организм целиком кибернетический, откуда и название (его - сокращение от «cybernetic organism» - придумал в 1960 году М. Клайнс, специалист по космической медицине, и с тех пор фантасты употребили столько раз, что оно потеряло автора). Уорвик - скорее андроид: человек с «нечеловеческими», техническими частями организма. Но не будем привередливы: киборг так киборг. В конце-концов, у этого словоупотребления есть своя традиция. Уорвик сам разработал то, что превратило его в киборга: капсулу-имплантат с кремниевыми чипами и медной электромагнитной катушкой внутри. По сути это транспондер - «ответчик»: устройство, автоматически посылающее уникальный идентификатор в ответ на автоматический запрос. Такие устройства используют, чтобы отслеживать домашних животных. Катушка преобразовывала входящий радиосигнал в электрический и обеспечивала питание процессора, а чипы передавали 64-битный сигнал. Его улавливали антенны-считыватели, расставленные во всех дверных проёмах университета, и посылали на компьютер.
Эта многократно пересказанная история, разумеется, немедленно стала сенсацией - в ряду других сенсаций. Ещё бы: ведь Уорвик первым вживил чип себе под кожу. Правда, сам он говорил, что вживлять было не так уж нужно: вполне можно было просто носить чип в кармане или на руке в браслете. Но нужен был знаковый жест - его-то Уорвик и сделал.
Он подвергся обсуждению столь же шумному, сколь поверхностному и мимолётному. Та же судьба постигла и другие далеко идущие планы профессора Уорвика, которыми он щедро делился с публикой: он собирался ставить эксперименты по передаче - тоже через вживленные микрочипы - нервных импульсов. Сначала - самому себе. Он планировал вживить себе в нервную систему устройство, которое фиксировало бы его эмоции, движения, состояния и посылало их, в «оцифрованном» виде, на компьютер. Тот записывал бы их на жёсткий диск, а спустя какое-то время посылал бы обратно. И он переживал бы их снова. Следующий шаг - передача импульсов своего мозга, через компьютер и на расстоянии, телу другого человека, тоже с имплантированным микрочипом; на роль «приёмника» профессор прочил свою жену Айрин. (Это породило массу комментариев от зубоскальства о киберсексе через океан до эйфорических ожиданий того, что вот, наконец, стала достижимой и телепатия, и подлинное единение душ…) И сам Уорвик обещал, что в случае удачи, действительно, можно будет научиться передавать таким образом решительно любую информацию - не только слова, но и то, что прежде считалось «невыразимым», «несказанным» - вплоть до мимолётных душевных движений и физических ощущений, которым нет названия.
А далее планировалось срастить человека с компьютером и управлять машиной непосредственно, с помощью, буквально, одной силы мысли. (Кстати сказать, такие эксперименты уже проводятся: так, например, пытаются помочь парализованным больным в клинике Тюбингенского университета). А заодно расширить восприятие человеком мира. Уорвик замыслил имплантировать себе протез, который улавливал бы ультразвук. В принципе, можно подключить к нервной системе и другие сенсоры - и воспринимать инфракрасный свет, рентгеновские лучи, радиоволны...
Уорвик - совсем не единственный, кто ищет пути совмещения человека с компьютерами. Медицина уже лет 20 как использует электронные импланты, причём куда сложнее уорвиковских: сердечные стимуляторы, например. Существует имплант, который принимает сигналы от микрофона и речевого процессора и стимулирует нервные окончания среднего уха; нейростимулятор для больных паркинсонизмом - он блокирует разряды, вызывающие тремор и другие симптомы. Говорят, что нечто подобное можно будет вживить в мозг и смягчать тяжелые расстройства - клиническую депрессию, например. Уж не говоря об электронных руках и ногах. Так что то, что сделал Уорвик, ещё сравнительно просто. Но лишь внешне.
Он сделал себя знаковой фигурой, человеком-манифестом, своего рода практическим идеологом новой эры. Его книга « Наступление машин: Почему следующее поколение роботов будет править миром», в которой он изложил идеологию своей научной работы, как и следовало ожидать, немедленно стала бестселлером (она переведена и на русский). Ожидания, вполне апокалиптические, которые он в этой книге высказал, тоже более чем традиционны: уже совсем скоро самообучающиеся роботы так разовьются, что подчинят себе людей и будут их нещадно эксплуатировать. Интересен Уорвик тем, что не только предлагает усовершенствовать человека для противостояния грядущему наступлению машин, но проделывает это с самим собой. Его уже сравнивали с Эдвардом Дженнером, который в 1776 году заразил себя оспой, чтобы проверить вакцину.
Человек, по его мнению, должен составить достойную конкуренцию своему потенциальному врагу. Увы, для этого нет иных возможностей, кроме как самим уподобиться машинам. Во-первых - усилить себя за счёт возможностей, доступных машине. Во-вторых - говорить с ней напрямую собственным мозгом и таким образом получить как бы общие с ней язык и мышление. И постепенно, в-третьих - перестать быть противоположными машине, отдельными от неё. Вернуться в то изначальное единство, которое, казалось, человек навсегда утратил после того, как от него отделились машины. Именно это - цель его сенсационных экспериментов.
Вообще-то у профессора Уорвика, одного из ведущих специалистов мира в области робототехники, очень традиционная сфера интересов: разработка всё более изощрённых форм искусственного интеллекта и изучение его возможностей. Когда он в 1999-м приезжал в Россию, с ним приехали и плоды усилий его лаборатории. «Семь гномов», как именуют питомцев разработчики, обладают «интеллектом» на уровне насекомых, а одно - на уровне кошки. Они умеют между собой общаться. У них есть ещё и преимущество перед нами: их восприятие гораздо шире за счет ультрафиолетовых, инфракрасных и рентгеновских лучей. Но самое важное - и самое опасное - что эти существа способны самостоятельно обучаться, развивать и совершенствовать самих себя.
Один из них, например, сам научился двигаться в комнате так, чтобы не натыкаться на вещи. Но дальше - хуже. Без всякого разрешения или стартовой программы он влез в Интернет, связался с роботом из Нью-Йорка и научил его тому же самому. Вот тут-то, говорят, Уорвик и встревожился.
Самообучаясь, роботы стали обнаруживать даже разный «характер». Одни вели себя решительно, другие осторожнее… И это при том, что «интеллект» некоторых соответствовал всего 50 мозговым клеткам (это уровень улитки). У персонального компьютера он составляет 10 тысяч клеток - уровень пчелы. У человека - сто миллиардов. Разрыв не так велик, как может показаться - а главное, стремительно сокращается. Лет через десять, подумал Уорвик, компьютер догонит человека. Уже через двадцать мы будем далеко позади. А там…
И вот отсюда - вторая, пожалуй, главная задача Уорвика: контроль над искусственным интеллектом, который он сам же и создаёт, и разработка возможной защиты от него. То есть: новой конструкции самого человека.
Однако чем успешнее Уорвик искал средств защитить человека от машин, тем менее защищённым становился человек от себя самого.
Вскоре к Уорвику обратились сразу несколько известных крупных фирм с просьбами разработать системы контроля за их сотрудниками. Вживить им микросхемы - и сразу станет ясно, кто ленится, кто опаздывает и что они при этом делают... Заинтересовались и военные, и полицейские… Протесты в прессе начали раздаваться немедленно. Но уж не поздно ли: механизм-то запущен...
Стало ясно: «бунт машин», который нам обещают уже в этом столетии - лишь одна из возможных опасностей, и может быть, не самая реальная. Вторая - развитие технологий глобального контроля, теоретически вплоть до установления Тоталитарного Государства с тотальной слежкой за всеми его членами.
По сути дела, это одна и та же опасность. В обоих случаях против человека обернётся то, с чем он сам, не первый век и во всё больших масштабах, обращался к миру: стремление покорять, контролировать, манипулировать, использовать. «Механизация» человека, первые зловещие предвестия которой видят в экспериментах Уорвика и его коллег - не следствие ли предельного в своём роде очеловечивания машины?
Машина бунтующая, торжествующая, узурпирующая власть - это монстр, вырвавшийся из самого человека. Более того: это человеческое в чистом виде. Очищенном от всего «природного». Это - интеллект, противопоставленный всему остальному в существе, частью которого он изначально был. Принятый за настолько главное в человеке, что его стало возможным выделить в особую способность и даже создать класс существ, в которых эта способность действительно была бы главной. Едва ли не единственной.
Машина возникла задолго до машины в сегодняшнем понимании: железки с проводками-моторчиками-кнопками. Мэмфорд писал, что первая в мире машина - «архаическая мегамашина» - возникла аж в эпоху пирамид: она состояла из жёстко между собою связанных, жёстко подчинённых своему руководству человеческих существ. Машина, собственно, никогда и не была ничем иным, как одним из способов отношения человека к миру, организации человека и человеческого. Машина - это принцип и, как всякий принцип, может быть воплощена по-разному: и в белковых телах, и в железе, и в том, чего мы сейчас ещё себе не представляем. Здесь дело не в материале.
Человек ни за что не придумал бы машины, не будь он в какой-то своей части машиной сам, не чувствуй он машины в себе. Просто потребовалось время, в исторических масштабах не такое уж большое, пока сложилась культурная ситуация, в которой этот принцип смог наконец выйти на поверхность. И лишь вследствие этого - дождаться воплощения в металле и начать путь ко всё большему отчуждению от человека. Чтобы в конце концов предстать ему как совершенно внешняя, чуждая, даже враждебная сила.
Умный робот - это вынесенная во вне сущность человека, как её понимало европейское Новое время - включая, разумеется, и весь ХХ век с его потребительским утилитаризмом и представлениями о том, что мир надо переделать так, чтобы он был удобен человеку. А заодно переделать и самого человека, чтобы он был удобен сам себе. Это апофеоз рациональности и проектирования как типа отношения к жизни. Это сам человек Нового Времени, возведённый в степень, даже доведённый до собственного предела. Он - точный слепок гордыни человека и его принципиального стремления всё время превосходить самого себя (и своего Создателя…) - чтобы самоутверждаться. Быть всё умнее, всё эффективнее, всё сильнее… В пределе, значит, можно и самому стать роботом. Когда искусственная машина и искусственный человек под руками того же Уорвика и его коллег стремятся слиться в одно, ничего нового ведь не происходит: они всегда и были одним и тем же.
Бунтующая машина - это бунтующий человек. Это - то самое, что произошло бы, если бы все утопии человека нашего исторического типа (который, конечно, принимает себя за «человека вообще») - осуществились в своей полноте и точности. Если бы существо, которое по своему происхождению было человеком, полностью подчинило себя жёсткому набору функций - смыслы которых предельно утилитарны и исчерпываются самоутверждением, контролем, использованием всех наличных ресурсов мира и рациональной его переделкой.
По счастью, утопии неосуществимы. Хотя бы уже потому, что человек кое-чем отличается от своих идеальных портретов - роботов. Прежде всего тем, что состоит в слишком большой мере из неожиданностей, непредсказуемостей. Человек - любой человек, человек как вид - это тот, кто «играет не по правилам». Правила для него - скорее исключения (недаром нужно столько усилий, чтобы им следовать). В этой «неправильности» - огромная уязвимость человека, но в этом же и его сила, и источник его роста. Именно за счёт этого он способен превосходить и самого себя, и свои условия.
Если машина была задолго до железных автоматов и благополучно их, надо думать, переживёт - то переживёт всё это и человек: ведь и он - принцип. Самое время задуматься над тем, что интеллект - который и традиционный прогрессист Уорвик считает в человеке главным - занимает в нас не так уж много места. Он - только следствие сознания, которое вообще-то - главное состояние человеческого мозга, отличающее этот мозг от всех решительно остальных, существующих в природе, в том числе и от электронных. А что, если он - лишь инструмент ценностей и сил, которые «залегают» глубже него и не им определяются; лишь средство, возомнившее себя целью?…
Человек - не знания и не умения, не интеллект и не память, даже, наверное, не чувства и не интуиция. Он - глубокая возможность всего этого. И ещё умение всем этим распоряжаться и придавать всему этому значение.
Вложенный в роботов «интеллект», как бы ни превосходил человеческий по каким угодно параметрам - оболочка без ядра. У него есть всё, кроме одного: того, что придаёт ему смысл. Интеллект без сознания - как курица, которой отрубили голову. Побегает, побегает какое-то время по инерции - а потом ведь всё равно упадёт… И бегать-то будет, что примечательно, по кругу. Может быть, машинный «интеллект» - не интеллект вовсе, а только его имитация?
Р. Курцвайл, правда, обещал, что уже в 2029 году появится такое «программное обеспечение для интеллекта», которое будет вырабатывать «сознание». Но не будет ли это тоже лишь имитацией сознания?… Может быть, и само сознание - следствие чего-то более глубокого и важного?
Машине - чем она ни будь - не бывает стыдно. Перед ней нельзя быть виноватым. Её невозможно унизить. Один автор (А. Семёнов) заметил, что к машине не применима заповедь «не убий». Наверно, это самое точное, что мне приходилось читать на эту тему.
У роботов нет души. Можно сделать всё: и мышцы из силиконовых шлангов, и нервы-электроды, и память с разумом, превосходящие всё человеческое, и эмоции на искусственном лице изобразить - а вот с душой ну никак не получается. Возможно, вкладывать её - не в силах человеческих. Хотя бы потому, что она иной природы.
Один из идеологов кибернетизации, американец Ханс Моравец (один из множества тех, кто обещает, что уже к концу этого века машины так превзойдут человека, что и вовсе его вытеснят) восклицал: «Мне хочется столько знать, так почему я не могу расширить память моего мозга? Почему нервные импульсы в моём организме не передвигаются со скоростью света?… Почему я могу смотреть только вперёд и не вижу, что творится за моей спиной?… Почему я, наконец, не бессмертен? »
В устах самого Моравца все эти вопросы звучат явно риторически. Ответы на них как будто давно уже дают и Уорвик с коллегами, и многие другие учёные, которые занимаются тем же самым: наращивают биологические возможности человеческих и не человеческих тел за счёт электронных «протезов». Правда, процесс ещё в самом начале, и мы действительно ещё не представляем себе всех возможных последствий. Но ведь вопросы можно принять и всерьёз и попытаться на них ответить. Например, так: потому же, почему человек не может быть ростом в несколько сотен метров или не может языком ловить на лету насекомых. Видимо, у него есть некоторая естественная размерность и сопутствующая ей пластика функций и способностей. Попытки же, пренебрегая естественными пропорциями, что-то одно из этого или хоть всё сразу многократно увеличить, усилить, уменьшить или вовсе устранить - с большой вероятностью ведут к катастрофам. Мы сейчас стоим только на пороге будущих катастроф, поэтому не можем знать, какими они будут. Но что они впереди - будьте уверены. В конце концов катастрофичность - тоже в природе человека.