Все читали Азимова? Ну те, кто помоложе, наверное, не читали, им Дарья Донцова милее, им напомню, что в свое время Азимов сформулировал три закона роботехники. Я их перефразирую в контексте заголовка:
1. Раб не может причинить вред свободному человеку или своим бездействием допустить, чтобы свободному человеку был причинён вред.
2. Раб должен повиноваться всем приказам, которые даёт свободный человек, кроме тех случаев, когда эти приказы противоречат Первому Закону.
3. Раб должен заботиться о своей безопасности в той мере, в которой это не противоречит Первому или Второму Законам
Вызывает некоторое внутреннее неприятие, не правда ли? В отличие от оригинала, в котором я заменил "робот" на "раб", а "человек" на "свободный человек". Причем второе - уступка нашему задекларированному равенству, надо бы использовать "хозяин" или "господин", но господ всех еще в 1917-м израсходовали.Так что делаю скидку. Хотя, в современной российской фантастике множество "свободных людей" как правило заменяется подмножеством "хозяев".
Примеров тому масса. Я не буду приводить отдельные произведения, но во всех описанных мирах, где существует рабство, имеют место быть или рабские ошейники, или соответственные имплантаты. Они игдают одну и ту же роль, а именно:
- подавляют агрессию в отношение господ и заставляют защищать их любой ценой (1 закон)
- принуждают исполнять любые приказы господ (2 закон)
- не дают убить себя, чтобы хоть таким путем избегнуть пожизненного рабства (3 закон).
Если захочется посмотреть на рабство изнутри, могу посоветовать Татьяну Зубачеву
Мир Гаора
http://flibusta.website/b/234616 Тут некий мир, в котором, судя по всему, победили татаро-монголы, и рабство сохранилось.
Аналогичный мир
http://flibusta.website/b/253286 Здесь же конец рабства в США, но в наши дни, после того как russkie таки завоевали Америку.
Все это жутко затянуто, особенно второй роман. Талант написать у нее есть, вовремя остановиться - нет. Но при прочтении хочется грызть ногти и говорить "Дякую боже что я не москаль что у нас это не реализовалось - а ведь могло!". Причем само по себе рабовладение без азимовских законов и соответственных технических средств типа ошейников все-таки конечно. А в вышеупомянутой формулировке это вечная безнадега и несвобода.
А вот теперь можно и подумать - нужны ли нам такие роботы. Ну то есть такие - поначалу - как раз и нужны. Тот же автопилот должен для начала охранять жизнь пассажиров, кроме того повиноваться приказам и, ласт бат нот лист, заботьться о самосохранении. И в ЖЖ, и в регулярной прессе было много публикаций о всевозможных дилеммах автопилота, но в принципе, если не расширять концепцию до любого "свободного человека", а ограничиться "господином" или "господами", то и с азимовскими законами взлетит.
И, в принципе, нету этих трех законов в реальности. Ударные беспилотники вкупе с экспертными системами вполне себе непринужденно принимают решение, кому жить и кому умереть. Да, в данный момент решение, кто таки нажмет кнопку отстрела, принимает человек, но недалек тот день, когда и это решение он переложит на электронику.
Для чего этот текст? Дык, это предупреждение. Не надо играть в бога. Не надо делегировать человеческий фактор машинам. И главное, не надо создавать себе рабов. Потому что с очередным апдэйтом может произойти непоправимое.