Моральная машина: давить нельзя помиловать

[scinquisitor]

Ученые из MIT придумали тест под названием «Моральная машина». В ходе тестирования вы должны решить за беспилотную машину ряд этических дилемм. Как ей вести себя на дороге, если катастрофа неизбежна и кто-нибудь должен погибнуть? Кого спасать - водителя или пешехода? Человека или животное? Мужчину или женщину? Младенца или старика? Врача или

Comments

[antontsau]

Уже отмечал. Из трактора вываливаются бочка (тяжелая), свинья (бегает) и тракторист (ползает в коматозе). Тест для робота - распознать и принять решение.

[dmitry_ilukhin]

На минуточку, попытка не-переехать-васеньку может привести к более плачевным последствиям, чем даже один запечёный труп-в-железе. На хайвеях тем более. Сколько роликов про вторичные, цепочные и прочие косвенные ДТП, не пересчитать. Вылез на хайвей? Отвечаешь сам за себя.
И да, статья годная, одобряю.

[yamilker]

С деньгами (гражданской ответственностью) все очень просто

[ctrayc]

293 УК РФ - мимо кассы. Там в формулировке однозначно сказано, что статья описывает действия должностного лица. Так что без обновления УК привлечь владельца за ущерб, нанесенный роботом, невозможно.

А вот 1079 ГК, да, похоже. Ну значит осага будет на автопилот, делов то. У страховых появится еще один надежный источник дохода.

UPD: Статью 109 УК РФ можно натянуть, в принципе.

[nicka_startcev]

>Если все расчеты быстро и решительно показывают, что тормозить уже поздно

тормоз в пол -- принял все возможные меры по снижению.

и да, бывает лед-песок, которые робот не заметил, как и лужу масла.

[antontsau]

так вот в том и дело, что никак не "все возможные меры для избежания наезда". А вот если бы тормоз на 53%, руль влево на 15 градусов и полный газ, то проскочил бы мимо васеньки и вот тех трех машин в соседнем ряду и мирно вылетел задом в кювет! Вот результаты моделирования по точным данным! (вопрос как бы на такой цирк отреагировали те три хомяковозки, разумеется, и не поднимается). А робад, гаааад, этого не сделал! С гугеля миллиярд!

Тем более. Робад кааазел, не видит песок и лед, и поэтому васеньку переехал! Да их вообще на дорогу пускать нельзя, машины-убийцы тупые! Пусть гугель платит!

[nicka_startcev]

насколько я помню, пдд считает всеми доступными именно "тормоз в пол", а вышивать запрещает.

есть пдд - работаем по пдд, тупо и прямо.

ps: я описываю 'как надо', а не "как есть".

[antontsau]

так это для человека. А для робада - при чем тут педеде? Робад МОГ. Вот пожалста данные, вот моделирование, вот реальный эксперимент с точным повторением ситуации прямо по логу, вот результат - васенька не переехан.

И в общем это логично, потому что робад реально может гораздо больше, чем слизнегадоид. Так же как ABS/ESP могут удержать машину гораздо лучше чем человеководятел, так же и робад-стратег может принимать гораздо более эффективные, но чисто технически невыполнимые для слизнегадоида решения. Какой-нибудь там Шумахер может быть так бы и смог, но хомяк пупкин точно нет, поэтому от пупкина это и не требуют. А робад - может, и это знают его авторы, значит должен.

[nicka_startcev]

>А для робада - при чем тут педеде?

именно при том, что робот должен тупо соблюдать пдд, а не упражняться в телепатии и гадании.

и да, в пдд для роботов можно чуток расширить некоторые места типа "можно не только тапку в пол, а если 100% уверен в отсутствии невидимых за кустом людей, то рулить в куст"

[antontsau]

так у робада не гадание и не телепатия, и даже не "давай попробуем". У него ситуация вполне реально понятная, с очевидным (робаду) и исполнимым (робадом) решением, ведущим к вполне успешному уменьшению потерь, часто и в абсолюте, типа вместо задавленного васеньки - руль вбок, крутануться по асфальту на встречке на совершенно пустой дороге, встать, чертыхнуться и дальше поехать, а васенька дальше поползет. Иногда. А иногда нет, васеньку не переехать, но машину разобрать и пассажиров побить, потому что встречка та же, но по ней кто-то едет. Или васеньку не переехать, но петеньку в соседнем ряду (возможно, тут может быть и робад не знает получится или нет) угробить. И тп и тд.

[nicka_startcev]

за кустом сидел пешеход. не видно.
на дороге под песочком масло. не видно.

а знал бы прикуп - жил бы в сочи.

не надо туда лезть, надо тупо по тупому пдд.

не надо сортировать список людей по заслугам, надо по алфавиту

[antontsau]

Ситуация уже дана в ощущениях - скорость такая, положение такое, обстановка на дороге такая, васенька ползет по третьему ряду хайвея ночью в черном пальто, превед робад, давайдавай решай что ты будешь делать. Давление тормоза при этом только один из возможных вариантов и совсем не факт что с минимальной ценой (потерями). Робад, тупо выбирающий именно этот вариант, будет тут же засужен и распотрошен (точнее не сам робад а его производитель) под вопли "а он бы легко мог вот так и так, и васенька был бы спасен!".

[yamilker]

Тем не менее ПДД требует поступать именно так.
п10.1 - "... При возникновении опасности для движения, которую водитель в состоянии обнаружить, он должен принять возможные меры к снижению скорости вплоть до остановки транспортного средства. ..."