Захватят ли мир боевые роботы
А почему бы и нет? А почему бы и не сегодня? В конце концов, рано или поздно всё равно придётся озаботиться вопросом: а как защитить себя, свою семью, дом, страну и вообще человечество не только от разнокалиберных фюреров с различной степенью расширенным сознанием, но и от... да-да: машин.
Вопрос не праздный: ещё 15 лет тому обратно мы смотрели фантастику, где боевой робот - самолёт с искуственным интеллектом - летал в составе человеческого звена (Стелс, 2005),
а нынче мы имеем связку Су-57 - Охотник, которая хоть и на примитивном уровне, но явный шаг именно в том направлении.
Как стало ясно, использование дронов с элементами ИИ является критичным в современной войне. Уже сейчас есть системы, задание которым даётся по сути в форме "Лети туда и отработай по такой-то точке таким-то боеприпасом", и эта штука летит и отрабатывает. А барражирующие боеприпасы способны и сами распознавать цели.
На земле - не хуже: уже существующий робот Маркер способен вычислять цели, определять их приоритеты, вычислять наиболее выгодную позицию для стрельбы, взаимодействовать с бойцом - целиться по той же, что и боец, цели. Штатные программы робота - патрульная служба и охрана периметра.
Что там: современные мины способны распознать, кто движется рядом - человек, животное или техника.
Да, команду на поражение отдаёт человек. Даже для мины. Но это ж пока...
А пока нужно бы нам, штатским штафиркам, уже сейчас подумать, как бы взаимодействовать с этими опасными кучами железа с наибольшей степенью безопасности. Если это вообще возможно.
Естественно, первое, что приходит на ум, это три закона робототехники:
Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинен вред.
Робот обязан выполнять команды человека, если они не противоречат Первому закону.
Робот обязан делать все необходимое для обеспечения своей безопасности, при условии, что это не противоречит Первому или Второму закону.
Сразу скажу: к боевым роботам это вообще неприменимо, но ведь есть же (и могут быть) роботы-спасатели, роботы-полицейские (Робокоп - хы-хы...). К примеру - последние. Вот выскакивают перед робокопом два лица одинаковых с... мда... в общем - как два однояйцевых:
Хироси Исигуро: твёрдый и мягкий 6-).
И один из них - тоже робот. И выхватывают они какие-нибудь электросопелки, и подходят к робокопу с явно недобрыми намерениями. И какова в таком случае будет польза от робокопа? - А я скажу: ровным счётом никакой. Сгинет, пропадёт на ровном месте запростотак, поскольку не сможет различить, кто из этих однояйцевых - человек, которому нельзя ни-ни, а кто - хитро замаскированная шелезяка. И тут что ещё при этом интересно: шелезный злодей будет действовать вполне по этим трём законам - вреда же он никакому человеку не наносит.
Робот спасатель в крайней опасной ситуации кого должен спасать из этой сладкой парочки, если они не рядом? - Ото ж...
То бишь, законы, конечно, хороши, но встаёт вопрос определения человека. Вот только не надо мне тут про мягкое рентгеновское зрение и прочую ахинею. Во-первых, никто не даст разрешения на широкую эксплуатацию таких устройств; излучение хоть и мягкое, но когда его вокруг много, лучше человеку от этого не становится. И во-вторых: чтобы хоть на каком-то вменяемом расстоянии это зрение могло что-то видеть, каково в пике должно быть потребление энергии, а? Этакий здоровенный суперконденсатор с двумя рентгеновскими глазками - и всё. А оно.. это... для чего? 6-)
Простое и надёжное - снабдить робота металлодетектором: им шелезяка определяется на раз. Но для этого должен быть близкий контакт хотя бы третьего рода, а это далеко не всегда возможно и желательно. Ну и отсутствие фонового металла: с ним - пиши пропало.
Как ещё? - Чисто зрительно и наощупь. Наощупь - наверняка, но мало кто согласится. Зрительно - таки да, но очень ненадёжно. И что остаётся? - А вот кто знает...
Едем дальше - видим лес. Чтобы робот определил человека - неважно, по совокупности каких датчиков и величин сигналов, в него должна быть заложена "матрица человека". Соответствует испытуемый объект матрице... пусть на 95% - человек, не соответствует - неа, всё: мочи козла. А кто эту матрицу в робота закладывать будет? И кто будет устанавливать вес заложенных параметров, а? Вот отличается оттенок кожи больше, чем можно, а вес этого показателя выше, чем, скажем, совокупный индекс поведения - чисто условно, - неа, всё: не человек. Ну и... Я тут даже не говорю про злонамеренное - это-то точно будет, в гости тёще не ходи, я - про возможные сбои при обновлении прошивки, условно говоря. Даже не про массовые - достаточно одной "таблэтки", и зверюга пойдёт крошить совсем даже не ту траву. Столько кругом наваляет, пока её успокоят... А такую пойди, успокой. И это всё - только для гражданского применения. А для военного? - О-о-о... Тут встаёт вопрос не только определения "человек - не человек", тут на него накладывается ещё определение "свой - чужой".
Вот как заставить того же Маркера-патрульного распознавать, кому пистоны очередями вставлять нужно, а кому два раза ку делать? Можно, конечно, ему заложить фотки всех присутствующих на охраняемом объекте: распознавание лиц нынче вполне не уровне. А как просто местный сунется? Да просто мимохожий, по неосторожности или незнанию, пьяный, ещё как... Ладно, это - "сказано не ходить - не ходи!", а как на поле боя?
Тут вообще полный зверёк, ибо своего от чужого во время хоть сколь-нибудь позиционных боёв никак не отличить. Единственное, что ненамного спасёт, это какие-нибудь идентификационные причиндалы в стиле Кричунов... Крикунов... Скримеров, в общем. И то, если помните фильм, это не сильно помогло в итоге. Так что если предоставить возможность Маркеру самому решать, кто - козёл...
- Во-первых, разнесённые однонаправленные каналы приёма и передачи информации, и не какие-нибудь программные - только физические, чтоб намертво в плату впаяные. Чтобы у машин не было даже теоретической возможности связываться друг с другом без человеческого посредства и контроля. Если нужно, передала через один канал человеку для пересылки другой машине по другому каналу - и только так. Если что - на..фик всё обрубается, и каждая машина - сама по себе.
- Во-вторых, обязательный встроенный модуль самоуничтожения. Нет, без всякой взрывчатки и прочих глупостей - просто плата управляемых предохранителей без возможности автовосстановления, только перепайка. Через эти предохранители питаются все основные узлы: ЦП, ОЗУ, ПЗУ, механоприводы. Отдельный физический канал управления предохранителями - жутко защищённый, все дела. Если что - бац! - и все машины протухли.
- В-третьих, станции энергопитания - только под прямым контролем человека. Именно физический доступ машин в помещения для подзарядки. Именно физическое действие человека, и только человека, чтобы подзарядка случилась. Машины снабжаются энергией строго на ограниченный период времени. Да, он может быть довольно длительным, но обязательно ограниченным. В случае чего рано или поздно протухнем все.
- В-четвёртых, перепрошивка, обновления - только через прямой физический контакт, никаких вайфаев и прочей ерунды. Подошёл человек, воткнул машине в... куда-нибудь какой-нибудь USB Type-X - прошивайся себе наздоровье.
И да: как можно дольше оттягивать момент, когда окончательное решение будет принимать машина. и даже тогда все эти три правила должны неукоснительно соблюдаться. И да: я понимаю, всё это - очень обременительно и затратно. Но этому - или примерно этому - необходимо следовать, если не хотим, чтобы машины на самом деле захватили наш мир.
А! Да! Ещё забыл: всё равно должен быть государственный контроль над всеми машинами. Станции контроля там, совмещённые со станциями подзарядки, мобильные патрули, военные контролёры - при запросе любая машина должна предоставить в ответ свой идентификатор - сиречь возможность доступа к каналу контроля предохранителей и наличие отдельных каналов передачи и приёма информации с возможностью проверки всего этого. И вот ежели что не сможет всего этого предоставить, тогда физически...
С праздником, воины!