этические дилеммы
Разработчики алгоритмов функционирования самоуправляемого автомобиля (автомобиля-без-водителя) в MIT, решая задачу алгоритмизирования последствий вероятных неполадок, одновременно изучают реакцию людей на моральные аспекты вероятности фатальных последствий как для пассажиров самоуправляемого автомобиля, так и для пешеходов которые могут оказаться на пути неисправной машины.
moralmachine.mit.edu
платформа создана для обобщения человеческого взгляда на моральные последствия решения выбранных самоуправляемым автомобилем. Последовательно демонстрируются ряд схематических сюжетов, где в самоуправляемом автомобиле отказывает одна из программ (например отвечающая за торможение). Задание для внешнего наблюдателя - стать судьей - выбрать наименьшее из зол, так чтобы этот выбор можно было бы заложить в программу самоуправляемого автомобиля как схема действия в подобной аварийной ситуации (в точности по Канту: моральный императив - действовать так чтобы алгоритмом твоего действия могли бы воспользоваться остальные ко всеобщему благу). Участники происшествий: схематичные люди разного возраста, пола, разных способностей в передвижении, и кошка (символизирующая живое-существо-не-человека), все участники временами соблюдают правила дорожного движения, временами нарушают...
очень странный опыт, ощущаешь себя временами палачом, временами умственно-отсталой, во всех случаях крайне беспомощной... ибо любой выбор оказывается надругательством над этикой и моралью, и к тому же меня же носом тыкает в мою же непоследовательность и вопиющую нелогичность... И а пока я наблюдала за своими реакциями выполняя эту серию задач, то с удивлением обнаружила: (1) в каких то случаях казалось, что я предпочитаю чтоб автомобиль (после поломки) ехал по прямой, по причине того, что такой ход событий уменьшает элемент бессмысленности случайной гибели (2) в других случаях, движение по прямой оказывалось возмутительно неправильным, вызывало острое ощущение несправедливости от того что в результате такого выбора один пассажир автомобиля выживет, а троих пешеходов собъет насмерть... (3) рассмотрение каждой последующей задачи становилась все более нестерпимым... и я стала думать что наверное во всех аварийных случаях надо было бы выбирать чтоб пассажирам доставалось, а пешеходы бы выживали, потому что пешеходы ни чего не делают, а только ходят, а вот пассажиры - делают, они сели в машину, котрую направили туда где она стала угрозой пешеходам... и тогда получается что всякий пешеход который садится в самоуправляемую машину становится потенциальным убийцей других пешеходов, заранее виновным (прям по Сартру всякий машинист паравоза выбирая профессию выбирает и всех своих жертв которых задавит на путях)? А что если пешеходы вели себя более активно, чем самоуправляемая машина с пассажирами, например, они выскочили внезапно на дорогу или кто-то из друхи злобных пешеходов из-за кустов вытолкнул хороших пешеходов прямо под колеса самоуправляемого автомобиля?
в завершении симулятор показывает суммарные результаты - кого из участников сознательно или бессознательно оказалось убитых больше, кого меньше. Также показывает общую статистику в сравнении с собственными результатами. Познавательно.
This entry was originally posted at http://babusyatanya.dreamwidth.org/435488.html. Please comment there using OpenID.
moralmachine.mit.edu
платформа создана для обобщения человеческого взгляда на моральные последствия решения выбранных самоуправляемым автомобилем. Последовательно демонстрируются ряд схематических сюжетов, где в самоуправляемом автомобиле отказывает одна из программ (например отвечающая за торможение). Задание для внешнего наблюдателя - стать судьей - выбрать наименьшее из зол, так чтобы этот выбор можно было бы заложить в программу самоуправляемого автомобиля как схема действия в подобной аварийной ситуации (в точности по Канту: моральный императив - действовать так чтобы алгоритмом твоего действия могли бы воспользоваться остальные ко всеобщему благу). Участники происшествий: схематичные люди разного возраста, пола, разных способностей в передвижении, и кошка (символизирующая живое-существо-не-человека), все участники временами соблюдают правила дорожного движения, временами нарушают...
очень странный опыт, ощущаешь себя временами палачом, временами умственно-отсталой, во всех случаях крайне беспомощной... ибо любой выбор оказывается надругательством над этикой и моралью, и к тому же меня же носом тыкает в мою же непоследовательность и вопиющую нелогичность... И а пока я наблюдала за своими реакциями выполняя эту серию задач, то с удивлением обнаружила: (1) в каких то случаях казалось, что я предпочитаю чтоб автомобиль (после поломки) ехал по прямой, по причине того, что такой ход событий уменьшает элемент бессмысленности случайной гибели (2) в других случаях, движение по прямой оказывалось возмутительно неправильным, вызывало острое ощущение несправедливости от того что в результате такого выбора один пассажир автомобиля выживет, а троих пешеходов собъет насмерть... (3) рассмотрение каждой последующей задачи становилась все более нестерпимым... и я стала думать что наверное во всех аварийных случаях надо было бы выбирать чтоб пассажирам доставалось, а пешеходы бы выживали, потому что пешеходы ни чего не делают, а только ходят, а вот пассажиры - делают, они сели в машину, котрую направили туда где она стала угрозой пешеходам... и тогда получается что всякий пешеход который садится в самоуправляемую машину становится потенциальным убийцей других пешеходов, заранее виновным (прям по Сартру всякий машинист паравоза выбирая профессию выбирает и всех своих жертв которых задавит на путях)? А что если пешеходы вели себя более активно, чем самоуправляемая машина с пассажирами, например, они выскочили внезапно на дорогу или кто-то из друхи злобных пешеходов из-за кустов вытолкнул хороших пешеходов прямо под колеса самоуправляемого автомобиля?
в завершении симулятор показывает суммарные результаты - кого из участников сознательно или бессознательно оказалось убитых больше, кого меньше. Также показывает общую статистику в сравнении с собственными результатами. Познавательно.
This entry was originally posted at http://babusyatanya.dreamwidth.org/435488.html. Please comment there using OpenID.