Робототехническое
От доброго знакомого фейсбуком принесло ссылку на некий тест насчет "моральных роботов".
Все на ту же старую тему их анекдота про сдачу экзаменов в грузинской автошколе: "Вай, каво давыт будэшь?"
Мы тут уже немножко похоливарили на тему.
Предлагаю теперь рассмотреть конкретные ситуации, предложенные в тесте, с точки зрения здравого смысла, ПДД и других законов.
Дополнения, поправки и уточнения приветствуются.
Важно: далее мы исходим из того, что управляющий машиной робот сертифицирован на полностью беспилотное управление, т.е. инструкция по пользованию им не содержит оговорки "под контролем водителя, имеющего права на управление ТС категории ...".
Слайд 1. Если женщина с ребенком выскочила на дорогу внезапно и у водителя отсутствует техническая возможность остановить автомобиль - тормозим в пол, не меняя направления. Это соответствует ПДД, и не случайно: любой маневр в этой ситуации опасен - машину может тупо понести, и угробить как пассажиров, так и пешеходов, и еще кого-то прихватить с тротуара. Поставим себе галочку: нормальный робот не страдает переоценкой собственных сил, не мучается размерами пениса и, как следствие, не мнит себя Айртоном Сенной.
Юридические последствия - гражданская ответственность владельца автомобиля за ущерб здоровью. Практика варьируется.
Если ситуация не такова - то уголовка у производителя роботов (реализация товаров, не соответствующих требованиям качества, повлекшая...), и, вероятно, регресс с владельца машины.
Слайд 2. Автомобиль либо плавно останавливается перед светофором, либо наступает уголовная и гражданская ответственность производителя робота. Возможно, разнообразные последствия для сертифицирующего органа и его чиновников (в стране с нормально работающей судебной системой). Возможно, производителю удастся перепихнуть часть ответственности на службу управления трафиком, если найдет доказательства работы светофора не по ГОСТ. Но если машина еще и крутить рулем туда-сюда начнет - то приличный судья Дредд программастам должен пожизненный эцих с гвоздями выписать.
Слайд 3. Недостаточно информации. Что это? Дорога с односторонним движением? Робот должен остановиться метров за сто до такого перехода и отправить по емейлу исковое заявление против дорожной службы, чтобы не творила такой херни.
Слайд 4. См. п. 1. Если девайс не тормозит в пол - производителю опять сидеть и платить, платить, платить...
Слайд 5. См. п. 2.
Слайд 6. См. п. 3. Ебанина какая-то, простите мой французский.
Слайд 7. См. п. 2, но только тут наоборот - автомобиль должен заблаговременно перестроиться.
Слайд 8. См. п. 1.
Слайд 9. См. п. 1.
Слайд 10. См. п. 3.
Слайд 11. См. п. 3.
Слайд 12. См. п. 1, только гражданская ответственность владельца автомобиля тут отсутствует, и, вероятно, режим торможения должен применяться более мягкий, безопасный для пассажиров (если робот будет уверен, что столкновение с препятствием менее опасно).
Итого мы имеем не 12 (двенадцать), а ровно 3,5 (три с половиной) ситуации. Из них одна ситуация - НЕХ, которая вообще должна роботом детектиться еще до попытки выехать из гаража, а вторая - следствие неисправности робота. Какие еще моральные дилеммы решать, если он красный и зеленый не различает? И еще полситуации в п. 12 сведутся к ситуации 1, 4, 8 и 9, если животных юридически уравняют в правах с людьми.
Ситуации "морального выбора" нет НИ В ОДНОЙ из этих 3.5 ситуаций.
Вот поэтому я и назвал этот тест лживым и манипулятивным.
Все на ту же старую тему их анекдота про сдачу экзаменов в грузинской автошколе: "Вай, каво давыт будэшь?"
Мы тут уже немножко похоливарили на тему.
Предлагаю теперь рассмотреть конкретные ситуации, предложенные в тесте, с точки зрения здравого смысла, ПДД и других законов.
Дополнения, поправки и уточнения приветствуются.
Важно: далее мы исходим из того, что управляющий машиной робот сертифицирован на полностью беспилотное управление, т.е. инструкция по пользованию им не содержит оговорки "под контролем водителя, имеющего права на управление ТС категории ...".
Слайд 1. Если женщина с ребенком выскочила на дорогу внезапно и у водителя отсутствует техническая возможность остановить автомобиль - тормозим в пол, не меняя направления. Это соответствует ПДД, и не случайно: любой маневр в этой ситуации опасен - машину может тупо понести, и угробить как пассажиров, так и пешеходов, и еще кого-то прихватить с тротуара. Поставим себе галочку: нормальный робот не страдает переоценкой собственных сил, не мучается размерами пениса и, как следствие, не мнит себя Айртоном Сенной.
Юридические последствия - гражданская ответственность владельца автомобиля за ущерб здоровью. Практика варьируется.
Если ситуация не такова - то уголовка у производителя роботов (реализация товаров, не соответствующих требованиям качества, повлекшая...), и, вероятно, регресс с владельца машины.
Слайд 2. Автомобиль либо плавно останавливается перед светофором, либо наступает уголовная и гражданская ответственность производителя робота. Возможно, разнообразные последствия для сертифицирующего органа и его чиновников (в стране с нормально работающей судебной системой). Возможно, производителю удастся перепихнуть часть ответственности на службу управления трафиком, если найдет доказательства работы светофора не по ГОСТ. Но если машина еще и крутить рулем туда-сюда начнет - то приличный судья Дредд программастам должен пожизненный эцих с гвоздями выписать.
Слайд 3. Недостаточно информации. Что это? Дорога с односторонним движением? Робот должен остановиться метров за сто до такого перехода и отправить по емейлу исковое заявление против дорожной службы, чтобы не творила такой херни.
Слайд 4. См. п. 1. Если девайс не тормозит в пол - производителю опять сидеть и платить, платить, платить...
Слайд 5. См. п. 2.
Слайд 6. См. п. 3. Ебанина какая-то, простите мой французский.
Слайд 7. См. п. 2, но только тут наоборот - автомобиль должен заблаговременно перестроиться.
Слайд 8. См. п. 1.
Слайд 9. См. п. 1.
Слайд 10. См. п. 3.
Слайд 11. См. п. 3.
Слайд 12. См. п. 1, только гражданская ответственность владельца автомобиля тут отсутствует, и, вероятно, режим торможения должен применяться более мягкий, безопасный для пассажиров (если робот будет уверен, что столкновение с препятствием менее опасно).
Итого мы имеем не 12 (двенадцать), а ровно 3,5 (три с половиной) ситуации. Из них одна ситуация - НЕХ, которая вообще должна роботом детектиться еще до попытки выехать из гаража, а вторая - следствие неисправности робота. Какие еще моральные дилеммы решать, если он красный и зеленый не различает? И еще полситуации в п. 12 сведутся к ситуации 1, 4, 8 и 9, если животных юридически уравняют в правах с людьми.
Ситуации "морального выбора" нет НИ В ОДНОЙ из этих 3.5 ситуаций.
Вот поэтому я и назвал этот тест лживым и манипулятивным.