Моральная машина: давить нельзя помиловать
Ученые из MIT придумали тест под названием «Моральная машина». В ходе тестирования вы должны решить за беспилотную машину ряд этических дилемм. Как ей вести себя на дороге, если катастрофа неизбежна и кто-нибудь должен погибнуть? Кого спасать - водителя или пешехода? Человека или животное? Мужчину или женщину? Младенца или старика? Врача или преступника? Стройную девушку или полного мужчину?
Когда интернет-пользователь отвечает на последний вопрос, ему сообщают итоги «тестирования». Когда я увидел свои результаты, то пришел к выводу, что ученые из MIT совсем не поняли причин моих решений. Например, они указали, что я больше ценю жизнь женщин, чем жизнь мужчин, но это чистой воды совпадение - на пол людей я вообще не обращал внимания. К счастью, авторы теста предлагают написать объяснение своим ответам, что я и сделал. В итоге я, как мне кажется, сформулировал нравственный закон, которому следую в жизни.
Когда-то Кант сформулировал категорический императив: «Поступай так, чтобы максима твоей воли [правило, по которому ты действуешь - примечание автора] могла бы быть всеобщим законом». Эта формулировка мне в свое время очень понравилась, но показалась слишком общей.
Свои решения в автомобильной дилемме я принимал исходя из следующего закона: каждое правило, по которому машина принимает решение, должно стимулировать более ответственное поведение людей, знающих об этом правиле, и в конечном итоге уменьшить число подобных этических дилемм. Задача правил - не столько снизить количество смертей в конкретном ДТП, сколько сделать мир более безопасным для всех.
Если пешеход нарушает закон (переходит дорогу на красный свет), другие не должны от этого пострадать. Даже если толпа беременных женщин с детьми и животными переходит дорогу в неположенном месте, то машина имеет право их всех давить. Даже если пассажир - толстый бездомный старик. Если все будут в курсе, что машина не остановится, встав перед выбором, то пешеходы будут аккуратнее. В итоге машине не придется ничего решать.
Впрочем, если пешеходы переходят дорогу по правилам, а машина слетела с тормозов, то ответственность на ее владельце - надо было вовремя проходить техосмотр. Виноваты и создатели автомобиля, поэтому из-за инцидента рейтинг надежности их продукции упадет, и спрос на небезопасные автомобили снизится. Правило должно стимулировать создание и выбор качественных машин, ответственность автовладельцев и автопроизводителей. А вот пешеходов наказывать за чужие ошибки нельзя.
Пол и возраст людей, которые погибают в ДТП, значения не имеют. А вот спасти больше жизней важно, но только в том случае, если не действует какое-то из вышеприведенных условий. Даже если нас очень много, мы не имеем права пренебрегать ответственностью и законом. Однако если в любом случае страдают виновные, то стоит спасти больше людей. В случае с невиновными следует сделать то же самое.
Если машина предпочтет спасать людей, имеющих высокую ценность для общества (учителей, врачей, ученых), а также людей, следящих за своим здоровьем - это будет неплохой стимул для всех получать образование и заниматься фитнесом (в условиях, если общество позволяет всем получать образование). Но никакой уровень здоровья и социальной значимости не должен позволять нарушать правила и безнаказанно создавать лишние моральные дилеммы для машин.
Если преступник имеет высокий шанс умереть в ДТП, это может стимулировать снижение преступности. Машинам стоит ценить жизнь преступника меньше, но это не отменяет перечисленных выше правил.
Животных я в уравнениях не рассматривал. За них отвечают хозяева. Во всех остальных немногочисленных случаях машине вмешиваться незачем.
Предложенные мной правила кое-что подсказывают об адекватных мерах наказания. Наказание должно существовать в том случае, если соблюдается одно из условий:
1. Существование такого наказания достоверно снижает количество желающих совершить преступление;
2. Наказание достоверно стимулирует или вынуждает провинившегося больше не совершать преступления;
3. Наказание носит материальный характер и компенсирует материальные затраты пострадавшей стороны.
Я считаю, что автоматическая машина просто обязана появиться на дорогах, как только испытания покажут, что она вызывает меньше ДТП, чем люди. Машина не будет ездить пьяной. Она не будет нарушать правил и подрезать другие машины. С учетом развития технологий, полагаю, что беспилотник будет большим завоеванием для человечества.
Другие рассуждения о морали: http://scinquisitor.livejournal.com/88027.html
Когда интернет-пользователь отвечает на последний вопрос, ему сообщают итоги «тестирования». Когда я увидел свои результаты, то пришел к выводу, что ученые из MIT совсем не поняли причин моих решений. Например, они указали, что я больше ценю жизнь женщин, чем жизнь мужчин, но это чистой воды совпадение - на пол людей я вообще не обращал внимания. К счастью, авторы теста предлагают написать объяснение своим ответам, что я и сделал. В итоге я, как мне кажется, сформулировал нравственный закон, которому следую в жизни.
Когда-то Кант сформулировал категорический императив: «Поступай так, чтобы максима твоей воли [правило, по которому ты действуешь - примечание автора] могла бы быть всеобщим законом». Эта формулировка мне в свое время очень понравилась, но показалась слишком общей.
Свои решения в автомобильной дилемме я принимал исходя из следующего закона: каждое правило, по которому машина принимает решение, должно стимулировать более ответственное поведение людей, знающих об этом правиле, и в конечном итоге уменьшить число подобных этических дилемм. Задача правил - не столько снизить количество смертей в конкретном ДТП, сколько сделать мир более безопасным для всех.
Если пешеход нарушает закон (переходит дорогу на красный свет), другие не должны от этого пострадать. Даже если толпа беременных женщин с детьми и животными переходит дорогу в неположенном месте, то машина имеет право их всех давить. Даже если пассажир - толстый бездомный старик. Если все будут в курсе, что машина не остановится, встав перед выбором, то пешеходы будут аккуратнее. В итоге машине не придется ничего решать.
Впрочем, если пешеходы переходят дорогу по правилам, а машина слетела с тормозов, то ответственность на ее владельце - надо было вовремя проходить техосмотр. Виноваты и создатели автомобиля, поэтому из-за инцидента рейтинг надежности их продукции упадет, и спрос на небезопасные автомобили снизится. Правило должно стимулировать создание и выбор качественных машин, ответственность автовладельцев и автопроизводителей. А вот пешеходов наказывать за чужие ошибки нельзя.
Пол и возраст людей, которые погибают в ДТП, значения не имеют. А вот спасти больше жизней важно, но только в том случае, если не действует какое-то из вышеприведенных условий. Даже если нас очень много, мы не имеем права пренебрегать ответственностью и законом. Однако если в любом случае страдают виновные, то стоит спасти больше людей. В случае с невиновными следует сделать то же самое.
Если машина предпочтет спасать людей, имеющих высокую ценность для общества (учителей, врачей, ученых), а также людей, следящих за своим здоровьем - это будет неплохой стимул для всех получать образование и заниматься фитнесом (в условиях, если общество позволяет всем получать образование). Но никакой уровень здоровья и социальной значимости не должен позволять нарушать правила и безнаказанно создавать лишние моральные дилеммы для машин.
Если преступник имеет высокий шанс умереть в ДТП, это может стимулировать снижение преступности. Машинам стоит ценить жизнь преступника меньше, но это не отменяет перечисленных выше правил.
Животных я в уравнениях не рассматривал. За них отвечают хозяева. Во всех остальных немногочисленных случаях машине вмешиваться незачем.
Предложенные мной правила кое-что подсказывают об адекватных мерах наказания. Наказание должно существовать в том случае, если соблюдается одно из условий:
1. Существование такого наказания достоверно снижает количество желающих совершить преступление;
2. Наказание достоверно стимулирует или вынуждает провинившегося больше не совершать преступления;
3. Наказание носит материальный характер и компенсирует материальные затраты пострадавшей стороны.
Я считаю, что автоматическая машина просто обязана появиться на дорогах, как только испытания покажут, что она вызывает меньше ДТП, чем люди. Машина не будет ездить пьяной. Она не будет нарушать правил и подрезать другие машины. С учетом развития технологий, полагаю, что беспилотник будет большим завоеванием для человечества.
Другие рассуждения о морали: http://scinquisitor.livejournal.com/88027.html