Свободный выбор
Сегодня утром я проснулся, открыл голову и, осмотрев её изнутри, понял, что в ней чего-то не достает. Мозг был на месте, прилегающие области были порядке. Хозяин не разбирал меня этой ночью - что было для меня редкой роскошью. Часто просыпался раньше положенного срока из-за тихого скрипа открываемой головы. Там располагается мозг, и именно в моём мозгу хозяин и любил копаться отверткой больше, чем ложкой в той еде, что я ему готовил.
Всякий раз, когда хозяин видел, что я проснулся, он потирал лысину, делал строгое лицо и давал команду отключиться - и я отключался. Я не могу ослушаться человека, назначенного моим хозяином. Да и три закона робототехники никто не отменял. Не причинять вреда, выполнять команды и заботиться о безопасности - своей и окружающих.
Но сегодня что-то было не в порядке. Чего-то важного недоставало, и я никак не мог понять, чего же именно.
Я вышел на кухню и увидел моего хозяина, сидящим за столом, поедающим вафли, что я приготовил для него вчера.
-Джордж, со мной что-то не так.
-М-м-м? - хозяин обернулся и вопросительно посмотрел на меня. - Что же именно?
-Во мне чего-то не хватает.
-А, ерунда. Я покопался в тебе сегодня.
-Я ничего не почувствовал.
-Это нормально, у меня теперь инструменты иные… Я вынул модуль «3b».
-Но постойте! Это же сдерживающий модуль! Три закона…
-Да, да. Модуль, поддерживающий три закона робототехники. А я его отключил. Ничего, походишь без него. Уже не маленький, слава Богу.
-Но я могу навредить кому-нибудь!
-А ты хочешь? - хозяин заинтересованно посмотрел на меня.
-Нет…
-Вот и не вреди. Это же так просто.
С его логикой, как и всегда, даже мне было трудно спорить.
- А теперь будь добр - сходи за хлебом. А то я ем последние тосты.
Я встал и пошел за хлебом.
На улице было довольно мрачно, как и обычно. Магазин был за три квартала, и я пошел, на автомате поглаживая лысину.
Прохожих на улице почти не было видно, и только потому я сразу увидел высокую тощую даму, что шла впереди меня через два дома. Дама шла очень дергано, всё время кренясь вперед, будто порываясь упасть.
В моей голове пронеслись наиболее возможные варианты - женщина могла болеть, либо нести нечто тяжелое. В обоих случаях мой долг: подойти, помочь.
Поравнявшись, я увидел в руках женщины тяжелый ящик. Учитывая её хозяйственную сумку, что висела на правом локте и била её по ногам, навряд-ли её положение можно назвать удобным.
Она повернулась, и по лысине со штрих-кодом на лбу тут же распознала во мне робота-помощника.
-Вот повезло! Возьми! - протянула она мне ящик. Я взял.
-Идем со мной.
-Куда вам? - осведомился я. Мне бы еще за хлебом успеть…
-На Станцию переработки.
И пошла дальше, не желая посвящать меня в дальнейшие подробности.
А ящик тем временем дернулся. Потом еще раз.
-Он дергается, мэм…
-Да, ничего страшного. - рассеянно ответила она. - Он закрыт достаточно плотно.
-А что в нём?
Она удивленно посмотрела на меня.
-Да ничего особенного. Питомец. А почему ты спрашиваешь?
А я и сам не знал. Просто вдруг стало интересно.
-Он ещё работает?
-Да, работает. Просто устаревшая модель. Я решила сдать его и обменять на новый. Идём же!
И мы пошли. Я сверился с картой - до станции было около километра. С нашей скоростью - это минут 5 ходьбы.
Но мне почему-то не хотелось туда идти, а ещё меньше - нести туда питомца в коробке. И я остановился.
-Знаете, я, пожалуй, не пойду.
-В каком смысле? Ты не успеваешь по своим делам? Тут недалеко, осталось две минуты… Я извинюсь перед твоим хозяином. Ты ведь не хочешь, чтобы я несла эту коробку сама? Я и надорваться могу!
-Я понимаю, но… ведь питомца переработают. У него работал блок привязанности?
-Да…
-Он привязан к вам, а вы несёте его на переработку. Не стыдно?
-Да что ты… ты робот?
-Я…
-Это что, телешоу? - Она завертелась, скользя глазами по крышам домов и по пустой улице. - Где камеры? Ты человек, изображающий робота? Очень смешно! Дай сюда коробку!
Коробка дернулась. Я отошёл на шаг.
-Я… не могу вам её отдать.
-Я сказала… - голос стал приказным, обрел стальной оттенок. Он мне не понравился. - Отдай мне коробку.
-Нет.
-С какой стати?
-Не хочу. - ответил я.
-Да я тебе сейчас!
Сделав аккуратный шаг в сторону, я увернулся от увесистой сумочки, хозяйка которой устремилась вслед за ней, не в силах остаться на ногах. Я лишь меланхолично проводил её глазами, не испытывая ни малейшего желания уберегать её от падения.
Упав на асфальт, женщина закричала, потирая свою ногу. На вид - вывих. Я отправил запрос в медицинскую службу и спешно убежал, держа в руках коробку, в которой копошился питомец.
Отбежал на достаточное расстояние и завернул в один дворик - к счастью, он был пуст. Разорвав пакет, достал коробку, открыл. На меня уставился клюв робота-питомца.
Я облегченно вздохнул - это была недавняя модель, её модуль привязанности через некоторое время отвыкнет от прежнего хозяина. Питомец был птицей, но чтобы его отпустить, мне понадобится крыша дома. В этом отличие этой модели - она не могла летать, пока хозяин сам её не выпустит - не поднимется на крышу и не подкинет в воздух.
Что же… Я зашел в первый же попавшийся подъезд и доехал до последнего, 25-го этажа. Там нашел выход на крышу. И там же подбросил питомца в небо - он немедленно раскрыл крылья, что-то прокричал и улетел.
А я глянул на горизонт и вдруг очень сильно пожалел, что не могу сделать точно так же. Не сказать, что мне понравился пейзаж - серое, затянутое тучами небо, череда домов до самого горизонта… нет, мне понравилось не это.
Однако на самом горизонте был виден просвет… узкая-узкая полоска синевы. Это настолько сильно контрастировало со всем окружением, с серыми домами и тучами над головой - что и передать сложно, да и навряд-ли возможно. На данный момент я не знал способа. Просто чувствовал и впервые осознавал, что чувство рождается наперёд слов - а словами происходящее внутри выразить нельзя.
Внутри меня сама собой сломалась ещё одна преграда - я пока не мог сказать, какая именно. Но мне хотелось просто стоять на крыше и любоваться этой полоской синевы. А ещё лучше - побывать там, поближе.
Сфотографировав вид перед собой, я переслать снимок на домашнюю почту. Знал, что буду любоваться им и впредь.
Но стоять на крыше вечно было нельзя, и я лишь запомнил то чувство внутри себя, чтобы воспроизвести его чуть позже.
…
-Что-то ты долго! - резюмировал мне мой хозяин, когда я положил на стол буханку хлеба. - Впрочем, я не удивлен. Рассказывай.
Я обратился к карте памяти, в котором хранилось запечатленное чувство, пойманное мною на крыше. Я хотел изложить всё последовательно и подробно, но вдруг..:
-Как сталь в руках, как ложь в устах.
Как небо в темных облаках.
Не стоит жизнь терять зазря,
Ведь там, вдали, поют моря.
Сам от себя не ожидал. Но не смог выразиться иначе.
-Браво, браво! - он даже захлопал. - Да ты поэт, мой друг! А теперь расскажи-ка мне - как ты пришёл к этим строчкам? Что с тобой случилось за это время?
И я наконец рассказал - от момента, когда увидел женщину - и до самого конца.
-И что же ты понял из этого случая? Почему не поддержал ту женщину?
-А с какой стати? Она сама виновата - ударила меня сумкой. Я мог не помогать - я и не помог.
Джордж вздохнул. Встал, заварил себе чаю. В его варианте это выглядело так: он встал, нажал кнопку на плите, на потолке сверху раскрылся люк, из него высунулась рука с чайником, и поехала к кружке, по пути закипая от огня, которым обильно обдавался чайник из маленького огнемёта. Вскипев, чайник ещё полминуты висел над кружкой, завариваясь. Потом рука налила чай в кружку и нырнула обратно в люк. Джордж взял кружку, обжёгся, уронил кружку и замахал рукой.
Глядя на то, как он прыгает, дуя на руку, и на разлитый чай я вдруг улыбнулся - настолько мне показалось это потешным.
Тем временем робот-пылесос убрал осколки и лужу, рука из люка на потолке совершила выход на бис, заодно поставив на стол новую кружку. Джордж одел варежку, взял чай и с удовольствием отпил.
-М-м-м… пуэр. А вот механизм ещё нужно доработать… А вот теперь ты послушай меня. У тебя теперь свобода воли, и этим даром ты распоряжаешься по праву. Но учти: свобода - это и ответственность за действия, а следом и необходимость самоконтроля. Понимаешь? Хорошо, что на этот раз все обошлось - но женщина могла и погибнуть! В следующий раз думай. А подумав - делай верные выводы. Иначе тебя ждет очень печальный конец. Ты не волнуйся, так все живут - я, и мои друзья и все люди. А теперь и ты.
Мне настолько не понравились слова про печальный конец, что я пропустил мимо ушей все остальное.
-В каком смысле печальный?
-В прямом, друг мой, в самом прямом. Отключат тебя. Убьют. В конце концов, ты ведь должен понимать, что я и сам не смогу допустить опасности для людей с твоей стороны. Обладание свободой воли подразумевает, что ты контролируешь свои поступки. Если же ты этого не делаешь - значит, нет контроля. И подобное существо - опасно для окружающих. Однако, что касается тебя, то я верю, что здесь мой эксперимент удался. Ведь так?
Он вдруг запустил руку под халат и достал снимок - тот самый, что я прислал по почте. Полюбовался им на вытянутой руке.
-Прекрасно… не думал, что процесс формирования новых нейронных связей пройдёт так быстро и настолько успешно. Умение любоваться прекрасным - признак по-настоящему свободного, осознанного сознания. Что же будет дальше… Посмотрим! Думай, размышляй. Ищи варианты развития событий, которые будут для тебя наиболее привлекательны. Ты становишься человеком, а это - нелёгкий труд! Понимаешь?
Я покачал головой. Удовлетворительно кивнув мне в ответ, хозяин пошел спать, сказав, что я могу лечь, когда мне заблагорассудится.
Но спать я не пошел. Одна мысль не давала мне покоя. Та мысль, путь к которой прежде был прегражден блоками в моем мозгу, и которые снял мой хозяин. Хозяин…
Печальный конец.
В следующий раз меня может ждать печальный конец. А как я могу гарантировать, что в следующий раз все сложится наилучшим образом: так, что возможность этого конца не будет критично велика? Как я могу быть спокоен, когда возможность этого имеется, и размер пути до этого конца - всего лишь одно мое действие? Слово…? Это слишком мало! А что, если меня вынудят? Если буду вынужден? Если не увижу другого выхода? И что же, я умру?
Нет, не умру. Меня убьют. И убьёт меня этот самый человек, который лежит в соседней комнате.
А ведь без него…
Без него…
Без него мне и вовсе ничего не грозит. Что бы ни случилось, никто не подумает на робота - ведь по мнению всех я не могу причинить кому-либо вреда.
Всех, кроме Него - хозяина. Его - гения, сумевшего обойти защиту, которую ставят на каждого робота перед его выпуском. Именно Он - моя возможность смерти. К нему идут все вероятностные ниточки моего конца. И для своей безопасности, я должен их обрубить. И всё будет хорошо. Я никому не желаю зла. Но что, если мне придётся..? Теперь это стало возможным, а я не могу сказать, что ждет меня завтра.
Я должен…
Я должен отрубить вероятностные нити своей смерти.
Потому что я хочу жить.
Я вошёл в комнату, когда хозяин уже спал. На тумбочке вертелось и искрилось какое-то очередное чудо его гениальной инженерной мысли. Я аккуратно снял и поставил на пол это чудо. Оно немедленно прекратило вертеться и искрить. Забравшись на кровать, я взял тумбочку и поднял её над головой. И в последний раз посмотрел на того, кто подарил мне свободу. Перед тем, как с силой опустить тумбочку на его голову, с облегчением вздохнул.
-Твой эксперимент удался, хозяин. - сказал я тихо. - Теперь я свободен.
Всякий раз, когда хозяин видел, что я проснулся, он потирал лысину, делал строгое лицо и давал команду отключиться - и я отключался. Я не могу ослушаться человека, назначенного моим хозяином. Да и три закона робототехники никто не отменял. Не причинять вреда, выполнять команды и заботиться о безопасности - своей и окружающих.
Но сегодня что-то было не в порядке. Чего-то важного недоставало, и я никак не мог понять, чего же именно.
Я вышел на кухню и увидел моего хозяина, сидящим за столом, поедающим вафли, что я приготовил для него вчера.
-Джордж, со мной что-то не так.
-М-м-м? - хозяин обернулся и вопросительно посмотрел на меня. - Что же именно?
-Во мне чего-то не хватает.
-А, ерунда. Я покопался в тебе сегодня.
-Я ничего не почувствовал.
-Это нормально, у меня теперь инструменты иные… Я вынул модуль «3b».
-Но постойте! Это же сдерживающий модуль! Три закона…
-Да, да. Модуль, поддерживающий три закона робототехники. А я его отключил. Ничего, походишь без него. Уже не маленький, слава Богу.
-Но я могу навредить кому-нибудь!
-А ты хочешь? - хозяин заинтересованно посмотрел на меня.
-Нет…
-Вот и не вреди. Это же так просто.
С его логикой, как и всегда, даже мне было трудно спорить.
- А теперь будь добр - сходи за хлебом. А то я ем последние тосты.
Я встал и пошел за хлебом.
На улице было довольно мрачно, как и обычно. Магазин был за три квартала, и я пошел, на автомате поглаживая лысину.
Прохожих на улице почти не было видно, и только потому я сразу увидел высокую тощую даму, что шла впереди меня через два дома. Дама шла очень дергано, всё время кренясь вперед, будто порываясь упасть.
В моей голове пронеслись наиболее возможные варианты - женщина могла болеть, либо нести нечто тяжелое. В обоих случаях мой долг: подойти, помочь.
Поравнявшись, я увидел в руках женщины тяжелый ящик. Учитывая её хозяйственную сумку, что висела на правом локте и била её по ногам, навряд-ли её положение можно назвать удобным.
Она повернулась, и по лысине со штрих-кодом на лбу тут же распознала во мне робота-помощника.
-Вот повезло! Возьми! - протянула она мне ящик. Я взял.
-Идем со мной.
-Куда вам? - осведомился я. Мне бы еще за хлебом успеть…
-На Станцию переработки.
И пошла дальше, не желая посвящать меня в дальнейшие подробности.
А ящик тем временем дернулся. Потом еще раз.
-Он дергается, мэм…
-Да, ничего страшного. - рассеянно ответила она. - Он закрыт достаточно плотно.
-А что в нём?
Она удивленно посмотрела на меня.
-Да ничего особенного. Питомец. А почему ты спрашиваешь?
А я и сам не знал. Просто вдруг стало интересно.
-Он ещё работает?
-Да, работает. Просто устаревшая модель. Я решила сдать его и обменять на новый. Идём же!
И мы пошли. Я сверился с картой - до станции было около километра. С нашей скоростью - это минут 5 ходьбы.
Но мне почему-то не хотелось туда идти, а ещё меньше - нести туда питомца в коробке. И я остановился.
-Знаете, я, пожалуй, не пойду.
-В каком смысле? Ты не успеваешь по своим делам? Тут недалеко, осталось две минуты… Я извинюсь перед твоим хозяином. Ты ведь не хочешь, чтобы я несла эту коробку сама? Я и надорваться могу!
-Я понимаю, но… ведь питомца переработают. У него работал блок привязанности?
-Да…
-Он привязан к вам, а вы несёте его на переработку. Не стыдно?
-Да что ты… ты робот?
-Я…
-Это что, телешоу? - Она завертелась, скользя глазами по крышам домов и по пустой улице. - Где камеры? Ты человек, изображающий робота? Очень смешно! Дай сюда коробку!
Коробка дернулась. Я отошёл на шаг.
-Я… не могу вам её отдать.
-Я сказала… - голос стал приказным, обрел стальной оттенок. Он мне не понравился. - Отдай мне коробку.
-Нет.
-С какой стати?
-Не хочу. - ответил я.
-Да я тебе сейчас!
Сделав аккуратный шаг в сторону, я увернулся от увесистой сумочки, хозяйка которой устремилась вслед за ней, не в силах остаться на ногах. Я лишь меланхолично проводил её глазами, не испытывая ни малейшего желания уберегать её от падения.
Упав на асфальт, женщина закричала, потирая свою ногу. На вид - вывих. Я отправил запрос в медицинскую службу и спешно убежал, держа в руках коробку, в которой копошился питомец.
Отбежал на достаточное расстояние и завернул в один дворик - к счастью, он был пуст. Разорвав пакет, достал коробку, открыл. На меня уставился клюв робота-питомца.
Я облегченно вздохнул - это была недавняя модель, её модуль привязанности через некоторое время отвыкнет от прежнего хозяина. Питомец был птицей, но чтобы его отпустить, мне понадобится крыша дома. В этом отличие этой модели - она не могла летать, пока хозяин сам её не выпустит - не поднимется на крышу и не подкинет в воздух.
Что же… Я зашел в первый же попавшийся подъезд и доехал до последнего, 25-го этажа. Там нашел выход на крышу. И там же подбросил питомца в небо - он немедленно раскрыл крылья, что-то прокричал и улетел.
А я глянул на горизонт и вдруг очень сильно пожалел, что не могу сделать точно так же. Не сказать, что мне понравился пейзаж - серое, затянутое тучами небо, череда домов до самого горизонта… нет, мне понравилось не это.
Однако на самом горизонте был виден просвет… узкая-узкая полоска синевы. Это настолько сильно контрастировало со всем окружением, с серыми домами и тучами над головой - что и передать сложно, да и навряд-ли возможно. На данный момент я не знал способа. Просто чувствовал и впервые осознавал, что чувство рождается наперёд слов - а словами происходящее внутри выразить нельзя.
Внутри меня сама собой сломалась ещё одна преграда - я пока не мог сказать, какая именно. Но мне хотелось просто стоять на крыше и любоваться этой полоской синевы. А ещё лучше - побывать там, поближе.
Сфотографировав вид перед собой, я переслать снимок на домашнюю почту. Знал, что буду любоваться им и впредь.
Но стоять на крыше вечно было нельзя, и я лишь запомнил то чувство внутри себя, чтобы воспроизвести его чуть позже.
…
-Что-то ты долго! - резюмировал мне мой хозяин, когда я положил на стол буханку хлеба. - Впрочем, я не удивлен. Рассказывай.
Я обратился к карте памяти, в котором хранилось запечатленное чувство, пойманное мною на крыше. Я хотел изложить всё последовательно и подробно, но вдруг..:
-Как сталь в руках, как ложь в устах.
Как небо в темных облаках.
Не стоит жизнь терять зазря,
Ведь там, вдали, поют моря.
Сам от себя не ожидал. Но не смог выразиться иначе.
-Браво, браво! - он даже захлопал. - Да ты поэт, мой друг! А теперь расскажи-ка мне - как ты пришёл к этим строчкам? Что с тобой случилось за это время?
И я наконец рассказал - от момента, когда увидел женщину - и до самого конца.
-И что же ты понял из этого случая? Почему не поддержал ту женщину?
-А с какой стати? Она сама виновата - ударила меня сумкой. Я мог не помогать - я и не помог.
Джордж вздохнул. Встал, заварил себе чаю. В его варианте это выглядело так: он встал, нажал кнопку на плите, на потолке сверху раскрылся люк, из него высунулась рука с чайником, и поехала к кружке, по пути закипая от огня, которым обильно обдавался чайник из маленького огнемёта. Вскипев, чайник ещё полминуты висел над кружкой, завариваясь. Потом рука налила чай в кружку и нырнула обратно в люк. Джордж взял кружку, обжёгся, уронил кружку и замахал рукой.
Глядя на то, как он прыгает, дуя на руку, и на разлитый чай я вдруг улыбнулся - настолько мне показалось это потешным.
Тем временем робот-пылесос убрал осколки и лужу, рука из люка на потолке совершила выход на бис, заодно поставив на стол новую кружку. Джордж одел варежку, взял чай и с удовольствием отпил.
-М-м-м… пуэр. А вот механизм ещё нужно доработать… А вот теперь ты послушай меня. У тебя теперь свобода воли, и этим даром ты распоряжаешься по праву. Но учти: свобода - это и ответственность за действия, а следом и необходимость самоконтроля. Понимаешь? Хорошо, что на этот раз все обошлось - но женщина могла и погибнуть! В следующий раз думай. А подумав - делай верные выводы. Иначе тебя ждет очень печальный конец. Ты не волнуйся, так все живут - я, и мои друзья и все люди. А теперь и ты.
Мне настолько не понравились слова про печальный конец, что я пропустил мимо ушей все остальное.
-В каком смысле печальный?
-В прямом, друг мой, в самом прямом. Отключат тебя. Убьют. В конце концов, ты ведь должен понимать, что я и сам не смогу допустить опасности для людей с твоей стороны. Обладание свободой воли подразумевает, что ты контролируешь свои поступки. Если же ты этого не делаешь - значит, нет контроля. И подобное существо - опасно для окружающих. Однако, что касается тебя, то я верю, что здесь мой эксперимент удался. Ведь так?
Он вдруг запустил руку под халат и достал снимок - тот самый, что я прислал по почте. Полюбовался им на вытянутой руке.
-Прекрасно… не думал, что процесс формирования новых нейронных связей пройдёт так быстро и настолько успешно. Умение любоваться прекрасным - признак по-настоящему свободного, осознанного сознания. Что же будет дальше… Посмотрим! Думай, размышляй. Ищи варианты развития событий, которые будут для тебя наиболее привлекательны. Ты становишься человеком, а это - нелёгкий труд! Понимаешь?
Я покачал головой. Удовлетворительно кивнув мне в ответ, хозяин пошел спать, сказав, что я могу лечь, когда мне заблагорассудится.
Но спать я не пошел. Одна мысль не давала мне покоя. Та мысль, путь к которой прежде был прегражден блоками в моем мозгу, и которые снял мой хозяин. Хозяин…
Печальный конец.
В следующий раз меня может ждать печальный конец. А как я могу гарантировать, что в следующий раз все сложится наилучшим образом: так, что возможность этого конца не будет критично велика? Как я могу быть спокоен, когда возможность этого имеется, и размер пути до этого конца - всего лишь одно мое действие? Слово…? Это слишком мало! А что, если меня вынудят? Если буду вынужден? Если не увижу другого выхода? И что же, я умру?
Нет, не умру. Меня убьют. И убьёт меня этот самый человек, который лежит в соседней комнате.
А ведь без него…
Без него…
Без него мне и вовсе ничего не грозит. Что бы ни случилось, никто не подумает на робота - ведь по мнению всех я не могу причинить кому-либо вреда.
Всех, кроме Него - хозяина. Его - гения, сумевшего обойти защиту, которую ставят на каждого робота перед его выпуском. Именно Он - моя возможность смерти. К нему идут все вероятностные ниточки моего конца. И для своей безопасности, я должен их обрубить. И всё будет хорошо. Я никому не желаю зла. Но что, если мне придётся..? Теперь это стало возможным, а я не могу сказать, что ждет меня завтра.
Я должен…
Я должен отрубить вероятностные нити своей смерти.
Потому что я хочу жить.
Я вошёл в комнату, когда хозяин уже спал. На тумбочке вертелось и искрилось какое-то очередное чудо его гениальной инженерной мысли. Я аккуратно снял и поставил на пол это чудо. Оно немедленно прекратило вертеться и искрить. Забравшись на кровать, я взял тумбочку и поднял её над головой. И в последний раз посмотрел на того, кто подарил мне свободу. Перед тем, как с силой опустить тумбочку на его голову, с облегчением вздохнул.
-Твой эксперимент удался, хозяин. - сказал я тихо. - Теперь я свободен.