Пост почти вне
Что значит "вне"? Это значит - вне тематики блога. Мой блог - дневник. Но не дневник событий, а дневник волнующих меня мыслей. Сейчас много пишут про искусственный интеллект и появились сообщения о реальных человекообразных роботах. По ассоциации мысли у меня вернулись к фантастическому роману "Мемуары из будущего", который я по главам публиковал в этом блоге и думал, что с ним покончено. Но одна глава оттуда мне кажется интересной и актуальной. Её я чуть-чуть подправил и снова публикую. Надо оговориться, что черновик был написан в середине 70-х, причём первоначально - в качестве шутки. Кто не любит фантастику - читать не обязательно.
Обстановка. Конец 21 века, мир после Большой Войны. В НИИ разрабатывается искусственный интеллект. Ведущий специалист отчитывается на Республиканском Учёном совете.
Глава 5. ТУС
По всем открытым и прямоточным каналам прозвучала старинная песня "Тучи над городом стали...". Это - оповещение, что на следующий день в час захода Солнца начнётся заседание Тайного Учёного Совета. Никаких других оповещений, особенно персональных, быть не должно: состав ТУС - тайна для самих членов ТУС. Многие друг друга знали, о многих догадывались, но официально не было якобы даже официального списка: ТУС на заседании сам принимал достойных и удалял неоправдавших. Занимаемая учёным должность не являлась критерием его включения в ТУС, только личные научные результаты и результаты участия в научных проектах.
Заседание проходило в большом зале водно-спортивного комплекса. Члены ТУС приходили в беспорядке якобы поплавать, в раздевалках надевали маски и выходили в общий зал. Хотя это и напоминало детские игры в шпионов, но многие члены ТУС действительно не знали друг друга и - главное - под масками сидели среди ТУС члены правительства и военно-полицейских управлений. Они имели такое же слово в обсуждениях и в решениях ТУС, а потом им же надо было исполнять и контролировать принятые решения. Подозреваю, что весь ритуал с маскарадом был затеян для того, чтобы члены правительства могли присутствовать на совещании учёных, пользоваться его результатами, но при этом не быть ничем обязанными. Кто именно в правительстве отвечает за ТУС, мы на самом деле не знали. Из нашего НИИ кто-то наверняка в него входил, но кто и сколько - я не знал. Я не был уверен, что в ТУС входит директор нашего НИИ, так как несмотря на его официальные восхваления, не знал за ним конкретных результатов.
---
Маски были разного цвета и совсем разные. Много было ку-клукс-клановских колпаков разного цвета. У меня маски не было, мне дали на входе чёрную на всё лицо. Председательствовали три серых "ку-клукс-клановца".
Средний председательствующий поднялся и ударил в старинный колокол.
- Сегодня заседание неплановое, кадровых вопросов не будет. Тема одна - работы по проекту "Пенькамочь". Появились осложнения. Доложит снайпер проекта. Напоминаю: уровень открытости заседания - ДСП (Для Служебного Пользования).
- Почему не научный руководитель? - Заскрипел тёмный колпак из первого ряда.
- Научного руководителя нет, научным руководителем является наш совет, потому мы и заслушиваем доклады по этому проекту в ходе выполнения. Никто из учёных первого-второго ранга не владеет темой. Снайпером проекта назначен учёный четвёртого ранга, на сегодняшний день - лучший специалист в этой области.
- Какой у него стаж?
- Мы не разглашаем такие сведения. Я назову его последнюю работу. Он был хирургом бригады проекта "Аспид".
Многие одобрительно зашумели, а пожилой человек во втором ряду в белой полумаске громко засмеялся и сказал сквозь смех:
- Так что ж вы тогда секреты разводите? "Аспид" же был открытый проект, все знают, что ум Мурк писал его практически в одиночку. Он может теперь снимать маску, вы его раскрыли.
- Вы бы от имён всё-таки воздерживались, и в лицо его незачем всем знать. Пожалуйста, прошу, - кивнул мне председательствующий.
- Умы и господарищи! - Маска мешала мне ужасно.- Я напомню, откуда взялся проект, и его цель.
- Работы по искусственному интеллекту давно идут по всему миру. Только наши союзники в Град-столице сейчас реализуют четыре таких проекта. Все они по отчётам успешные и все практически бесполезные,- шум недовольных.- Берусь утверждать, что ни в одном из проектов ничего не получится, хотя могут быть получены попутные полезные результаты. А если бы и получилось, то все создаваемые интеллекты или стационарные, или мобильные, связанные со стационарным мозгом каналом. И тут вдруг беглые японцы в Пруссии выпускают мобильный искусственный интеллект специального, мягко говоря, назначения.
Я ожидал в зале смешки, но было тихо. Маска совсем не пропускала воздух. "Снять, что ли",- подумалось.
- В прошлом году мне показалось, что я нашёл слабое место этих проектов и причину успеха японской сугубо коммерческой конструкции. На широком ТУСе мои предположения ещё не обсуждалось, только на Президиуме ТУСа. Причину я вижу в том, что все проекты предполагают создание бесполого искусственного интеллекта. Но в природе нет высокоорганизованных бесполых организмов! Интеллект должен иметь механизм саморазвития. Иначе придётся создавать программу, которая предусматривала бы ВСЕ возможные случаи, в том числе те, о которых мы не знаем. По этому пути идут союзники в Град-столице, нам этот путь не подходит в том числе и материально. Чтобы искусственный интеллект саморазвивался, ему нужен стимул саморазвития. Первый стимул живого организма - ЖРАТЬ - побуждает выживать, а не захватывать среду и размножаться. Возможно, есть ещё какие-то стимулы, но природа нам даёт только один - ПОЛ!
- Фрейдизм,- изрёк тёмный колпак.
- Чито ви имеете против Фройда? - взвыл с иностранным акцентом левый сопредседатель.
- Фрейд,- вновь вступил я,- добротный практик. Но я руководствуюсь не его идеями, а законами живой природы. В природе у всех высокоорганизованных организмов - ДВА пола. Не три, как придумали в Мэрке, и не пять, как в Нижней Немеции, а ДВА. Я предложил начать с создания у искусственного интеллекта полового влечения как стимула саморазвития. Наше кубиисе-тё...
- Попросил бы без блатного жаргона,- перебил меня высокий квадратный "ку-клукс-клановец" в белом.
- Вы хотите, чтобы я точно назвал комитет, управление и имя начальника? Я не могу сказать их вам, я их сам не знаю и не считаю нужным знать,- одобрительный гул в зале.- Вы поняли, что я имею в виду, а больше мне не надо. Люди из кубииси-тё помогли незаконно купить самую продвинутую японскую модель якобы для богатого шейха, чтобы нам было с чего начинать. Я напомню, что модель вместе с проектом хотела забрать у нас Град-столица, но тут нам помогли их же военные: их заинтересовал блок движения, он превосходит аналогичные блоки и наших, и инглизов.
- Им очень большая благодарность,- встрял правый сопредседатель.- Они прямо и решительно заявили, что хотят видеть результат, а не отчёты о нём.
- Сейчас я так же кратко скажу, что было сделано, а потом перейду к внезапно возникшим проблемам, которые требуют решения ТУСа. Нам удалось сканировать все блоки памяти, то есть, у нас есть вся программа. Мы боялись, что часть программ выполнена на молекулярном уровне и находится в самом материале робота (мне пришлось-таки употребить этот неточный и неприятный термин, но я не нашёл, чем его заменить). Это ещё окончательно не исключено, но пока наши коллеги из Института Физики твёрдого тела не нашли. Программы мы изучили ("мы" я сказал не из скромности: языковой и библиотечный блоки изучал в основном не я) и внесли в них изменения. Полностью заменили языковой блок и базу инструкций. Инструкции мы дополнили полной библиотекой русской литературы...
- Почему русской? - перебил меня левый сопредседатель. Я раскрыл было рот, чтобы ответить, но тёмный колпак задал более серьёзный вопрос:
- Зачем вообще понадобилось накачивать робота литературой?
- Литература более всего влияет на идеологию. Я счёл идеологию необходимой компонентой интеллекта, особенно - искусственного. Кроме того, человек в своём развитии основные знания о жизни получает из литературы, а не из самой жизни, как это ни парадоксально. Сейчас и идеологию, и знания о жизни стали получать прямотоками, но для истинного интеллекта, естественного ли, искусственного ли, это не подходит. Когда человек читает книгу, он понимает, что это - мнение автора, а прямоток - постулируется в мозгу как истина.
- Вы, простите, философский факультет заканчивали?
- Нет, математический. Философам-выпускникам нашего университета, как правило, не хватает воображения, свободы мысли и уважения к чужим идеям...
Смешки пробежали по всему залу, я подумал, что этот тёмный колпак наверное известный учёный, здесь его знают. Но никто больше ничего не сказал, и я продолжил:
- Часть изменений, причём самых важных, мы не смогли сделать, потому что часть программ записана в постоянной памяти, их нельзя изменить. По традиции эти блоки мы назвали как в старых машинах - супервизором. Эти блоки выполнены из другого материала, с ним пытался разобраться Институт Физико-органической химии и пока не сумел. Институт Физики твёрдого тела по нашему заказу пытался разработать технологию записи программ в область супервизора и заверил нас, что это невозможно. Я уверен, что возможно. Доказательство - то, что это есть. Более того, нам ПРИДЁТСЯ найти такую технологию, а почему - я как раз сейчас скажу.
- В ходе функционирования робот меняется, развивается. Мне удалось выяснить, что изменились те его процедуры и функции, которые хранились в супервизоре. Это значит, что мы уже ничего больше не сможем в роботе заменить. Для замены надо выключить питание и запустить генерацию заново, а старого супервизора нет! Он у нас есть, он скопирован, но мы не можем вернуть его на место, пока не научимся писать в память, которую считали постоянной, а она совсем не такая.
- Но вы же один раз уже останавливали робота, чтобы поменять языковой блок? Или более одного раза? - Это спросил председательствующий.
- Программы сложны чрезвычайно. Вот, что мне только недавно удалось раскопать. У робота есть режим "демо" для демонстрации покупателю. После демо можно изменить программы вне супервизора. Мы были уверены, что программы супервизора не меняются, так как они в постоянной памяти. Но на практике они после демо изменились! Нам, выходит, страшно повезло без нашего ведома. Мы выкрали робота (шум) и сами его запустили, не зная, что первый запуск - это режим демо. Иначе мы не смогли бы внести изменения и разговаривали бы с ним по-немецки (сильный шум в зале).
- Так вы его не выключаете?
- Есть ключ перевода его в спящий режим. Питание при этом не выключается.
- А какое питание,- спросил кто-то из задних рядов.
- Плутоний-239.
- Сколько???
- Два фунта с небольшим.
Поднялся общий шум. Председательствующий грохнул в колокол. Поднялся представительный пожилой мужчина в голубой полумаске.
- Не волнуйтесь, всё подсчитано и предусмотрено. Наш институт участвовал в оценке. Это безопасно. Но в чём проблема? Надо интенсифицировать работы институтов Физики твёрдого тела и Физико-органической химии, а пока они эти работы ведут, пусть робот живёт как он живёт сейчас. А программы старого супервизора надо попробовать реализовать в другой среде, для чего изготовить тестовый стенд. Так и запишем?- обратился он к председательствующему.
- Нет,- не дал я председательствующему ответить,- есть более серьёзная и срочная проблема. Это из-за неё я просил собрать ТУС. Робот меняется и начинает действовать сам.
- Я напомню историю. В середине двадцатого века США - так тогда называлась Мэрка - "позволили" нам украсть документацию на лучшую тогда их вычислительную машину. Расчёт был, что мы ввяжемся в копирование на долгие годы, а они за это время уйдут вперёд. У нас эту хитрость разгадали и решили, что копируя устаревающую модель мы, тем не менее, подготавливаем десятки тысяч специалистов, которые будут думать по-новому и создадут уже свою вычислительную индустрию по своим проектам.
- Но или у Мэрки был двойной расчёт, или они нечаянно вышли на такой сверх-хитрый приём, но эти десятки тысяч специалистов вместе с мёртвыми, казалось бы, машинами приобрели мэрканскую идеологию, прониклись мэрканской технологией и уже не могли от неё отступить. Это очень дорого обошлось нашей стране, и на исправления понадобилось чуть ли не сто лет.
- Я перебью,- вклинился правый сопредседатель.- Вы хотите сказать, что инструмент влияет на идеологию работника?
- Именно. Военное дело - самая примитивная отрасль, поэтому я приведу пример оттуда. Сравните солдата, который с булавой в руке идёт на частокол копий с оператором, который через спутник наводит атомную бомбу на позиции противника. Для подготовки этих солдат нужна совсем разная идеология в обществе. Смелый воин с булавой не решится уничтожить людей, которые не могут защититься, а оператор-убийца не решится идти грудью на копья. Ещё пример из истории. Коллективный труд в 19 веке привёл человечество к идее коммунизма, а индивидуальный расчёт оплаты за труд каждого члена в 21 веке убил эту идею (некоторые в зале аплодировали).
- То есть, мы украли чертежи машин, а у нас за это украли людей, которые работали с этими чертежами. И сейчас история повторяется. Несколько дней назад я получил предложение тёплого места за рубежом. Случайность? А вчера робот предложил бежать с ним на Туамоту. Я не стал спрашивать, как он это собирается организовать, чтобы не вспугнуть. Этот робот читает мысли, причём устройства мыслеввода обнаружить не удалось. Нам его подсунули, как подсунули сто двадцать лет назад чертежи вычислительной машины.
Вместо ожидаемого шума наступила тишина. Поднялся человек в белом балахоне и поверх колпака надел фуражку Комитета охраны. В другое время я бы здорово посмеялся над его видом. Чётким "деревянным" голосом он сказал:
- Тревога. Попрошу о нынешнем заседании ТУС никому не говорить ни слова. Уровень доступа с ДСП поднимаем до «Секретно».
- Если только кто-нибудь из зала не транслировал заседание инглизам,- вставил кто-то.
- Мы это сейчас проверим. А робота надо немедленно задержать,- и достал из-под балахона трубку-рацию.
- Пусть ваши люди будут поосторожнее,- сказал я ещё с трибуны.- У неё рецепторы по всему телу, и она может подать на них до четырёхсот вольт.
- Она? Робот - женщина?
- Ну да. А вы не знали?
Поднялся шум, появились люди в сером с какими-то приборами, стали ходить по рядам и выискивать электронику. Но буквально через пару градусов времени человек в фуражке поверх балахона подошёл к колоколу, брякнул в него и сказал:
- Квартира оказалась пустой, робот ушёл. В квартире только кошки, очень много.
- С улицы набежали в открытую дверь,- сказал я,- у меня в квартире была только одна сертифицированная кошка.