будущее автодорог с ИИ-водителем: кого давить?
Все больше и больше появляются сообщения о внедрении автомобилей без водителя, машину ведет ИИ. И на дорогах рано или поздно этому ИИ придется делать выбор кого убить, а кого спасти своим выбором. Помните задачку на нравственный выбор:
«Проблема вагонетки»: Тяжёлая неуправляемая вагонетка несётся по рельсам. На пути её следования находятся пять человек, привязанные к рельсам. Вы можете переключить стрелку - и тогда вагонетка поедет по другому, запасному пути, на котором находится один человек, также привязанный к рельсам. Каковы ваши действия?
долгие годы считалась абстрактным мысленным экспериментом, интересным только философам этики и не имеющим отношения к реальной жизни. Пока не появились самоуправляемые автомобили. Как только машины без водителя стали реальностью, сделалось понятно и то, что эту задачу необходимо решать практически: аварийная ситуация, в которой искусственный интеллект должен будет выбрать, сбить ему несколько пешеходов на переходе или одного, свернув на тротуар, может быть вполне реальной - как и множество других подобных задач, ранее считавшихся абстрактными.
Вместо того, чтобы решать эти вопросы самим, исследователи из MIT отдали этот вопрос на суд публики. В 2014 они сделали сайт Moral Machine с тестами, имитирующими разные аварийные ситуации на дороге, в которых посетители сайта должны были решать за управляющую беспилотным автомобилем программу, чьими жизнями ей пожертвовать, а чьи спасти.
Популярность сайта оказалась неожиданной для его создателей - за 4 года на вопросы ответило 40 миллионов человек со всего мира. Теперь результаты наконец обработали и опубликовали. Они выявили интересные межкультурные различия.
Так, жители бедных стран с высоким имущественным неравенством предпочитали в первую очередь спасать людей с высоким социальным статусом («начальство»), сбивая людей с низким («бездомные»).
Жители богатых стран с большей готовностью, чем жители бедных, сбивают правонарушителей, включая и тех, кто просто переходит улицу на красный свет.
Жители южных стран стараются спасать женщин, жертвуя мужчинами. Северяне исповедуют гендерное равноправие.
Жители западных стран (Франция, Великобритания, Австралия, США, Израиль и т. д.) во всех ситуациях старались спасти как можно больше людей, невзирая на то, кто они. Жители же восточно-азиатских стран (Китай, Тайвань, Сингапур, Южная Корея) и примкнувшие к ним финны делали выбор исходя в в основном не из количества спасаемых или гибнущих людей, а из того, кто эти люди.
Кроме того, европейцы и североамериканцы старались в первую очередь спасти детей, а жители восточной Азии (а также финны и переметнувшиеся на сторону Азии израильтяне) в первую очередь спасали стариков, даже если ради этого нужно было пожертвовать детьми.
А вот в вопросе о том, кого спасать первыми - пассажиров или пешеходов, - мнения азиатов диаметрально разделились. Самыми ярыми сторонниками спасения пешеходов за счет пассажиров оказались японцы, самыми ярыми сторонниками спасения пассажиров за счет пешеходов - китайцы. Остальные азиаты тоже больше склонны спасать пассажиров, а европейцы, наоборот, пешеходов.
Будут ли создатели беспилотных автомобилей учитывать эти пожелания и программировать их по-разному для разных стран, пока не ясно.
Оданако тема выбора для ИИ обязательно станет актуальной в скором будущем.
«Проблема вагонетки»: Тяжёлая неуправляемая вагонетка несётся по рельсам. На пути её следования находятся пять человек, привязанные к рельсам. Вы можете переключить стрелку - и тогда вагонетка поедет по другому, запасному пути, на котором находится один человек, также привязанный к рельсам. Каковы ваши действия?
долгие годы считалась абстрактным мысленным экспериментом, интересным только философам этики и не имеющим отношения к реальной жизни. Пока не появились самоуправляемые автомобили. Как только машины без водителя стали реальностью, сделалось понятно и то, что эту задачу необходимо решать практически: аварийная ситуация, в которой искусственный интеллект должен будет выбрать, сбить ему несколько пешеходов на переходе или одного, свернув на тротуар, может быть вполне реальной - как и множество других подобных задач, ранее считавшихся абстрактными.
Вместо того, чтобы решать эти вопросы самим, исследователи из MIT отдали этот вопрос на суд публики. В 2014 они сделали сайт Moral Machine с тестами, имитирующими разные аварийные ситуации на дороге, в которых посетители сайта должны были решать за управляющую беспилотным автомобилем программу, чьими жизнями ей пожертвовать, а чьи спасти.
Популярность сайта оказалась неожиданной для его создателей - за 4 года на вопросы ответило 40 миллионов человек со всего мира. Теперь результаты наконец обработали и опубликовали. Они выявили интересные межкультурные различия.
Так, жители бедных стран с высоким имущественным неравенством предпочитали в первую очередь спасать людей с высоким социальным статусом («начальство»), сбивая людей с низким («бездомные»).
Жители богатых стран с большей готовностью, чем жители бедных, сбивают правонарушителей, включая и тех, кто просто переходит улицу на красный свет.
Жители южных стран стараются спасать женщин, жертвуя мужчинами. Северяне исповедуют гендерное равноправие.
Жители западных стран (Франция, Великобритания, Австралия, США, Израиль и т. д.) во всех ситуациях старались спасти как можно больше людей, невзирая на то, кто они. Жители же восточно-азиатских стран (Китай, Тайвань, Сингапур, Южная Корея) и примкнувшие к ним финны делали выбор исходя в в основном не из количества спасаемых или гибнущих людей, а из того, кто эти люди.
Кроме того, европейцы и североамериканцы старались в первую очередь спасти детей, а жители восточной Азии (а также финны и переметнувшиеся на сторону Азии израильтяне) в первую очередь спасали стариков, даже если ради этого нужно было пожертвовать детьми.
А вот в вопросе о том, кого спасать первыми - пассажиров или пешеходов, - мнения азиатов диаметрально разделились. Самыми ярыми сторонниками спасения пешеходов за счет пассажиров оказались японцы, самыми ярыми сторонниками спасения пассажиров за счет пешеходов - китайцы. Остальные азиаты тоже больше склонны спасать пассажиров, а европейцы, наоборот, пешеходов.
Будут ли создатели беспилотных автомобилей учитывать эти пожелания и программировать их по-разному для разных стран, пока не ясно.
Оданако тема выбора для ИИ обязательно станет актуальной в скором будущем.