О "морали искусственного интеллекта" и моральных дилеммах для всех - от президента до аптекаря...
Прочтите маленькую заметку о крупной проблеме, заставляющую задуматься о значительно большем, нежели сложности разработки морали искусственного интеллекта -
МОСКВА, 2 июл - РИА Новости. Мораль искусственного интеллекта - один из самых обсуждаемых вопросов, связанных с наступлением всеобщей компьютеризации. Массачусетский технологический институт создал тест, помогающий понять моральные дилеммы, с которыми сталкиваются разработчики разума машины.
Тест крайне простой. Человеку предлагается поставить себя на место искусственного интеллекта самоуправляемого автомобиля и решить, кем пожертвовать в ДТП - пассажирами в машине или пешеходами на перекрестке. Другой вопрос заставляет выбирать, кого из пешеходов придется задавить, чтобы спасти других.
В конце теста пользователю сообщают, кем он жертвовал чаще всего и приводятся результаты других опрашиваемых.
*****************************************
и пару комментариев к ней -
vip.dim50 -ИИ выберет убить всех, вт.ч водителя. Простая арифметика - нет водителя, нет причин возможных будущих аварий. Плюс нет пешеходов, нет будущих аварий. Итог квантовых вычислений - нет людей, нет проблем. Чистый, безопасный, тихий мир. И скайнет с ухмылкой терминатора запускает все ракеты...
lexander Andreev -Ну прямо анекдот: В Грузии сдает парень на права и сотрудник полиции, чтоб добить задает вопрос: Ситуация, справа крутой обрыв, слева скала. Тебе дорогу переходят бабулька и молодая девушка, кого будешь давить?
Конечно бабушку, она своё отжила:)
Идиот!!! Тормоз давить надо, тормоз!!!
*************************************На самом деле, простенькая заметка о новых достижениях айти-отрасли навела на мысль о том, что основной задачей власти вообще и сейчас, в особенности, является решение череды сложных моральных дилемм.
При этом угодить всем, по определению, невозможно, потому и дилемма, а волна возмущения обиженными в любом случае будет поднята, причем небезосновательно - дилемма-то моральная, то есть, всякий выбор будет в чем-то и для кого-то аморален.
Чтобы понять всю сложность и трагизм ситуации необходимости однозначного выбора при наличии моральной дилеммы, приведу самые известные ее случаи, помимо классического, с принятием врачом решения об эвтаназии, например -[примеры моральных дилемм]
1.Трагедия Софии Завистовской. В новелле У. Стирона «Выбор Софии» (1976) польскую женщину, оказавшуюся в фашистском концентрационном лагере Аушвитц, «награждают» возможностью не быть признанной еврейкой и, следовательно, спасти себя. Её поставили перед выбором обречь на газовую камеру либо дочь, либо сына, который старше своей сестры. В случае если София не сделает выбора, будут уничтожены оба - и дочь, и сын. Она принимает решение в пользу дочери, надеясь, что сын сумеет спасти себя быстрее, чем дочь. Бедная женщина теряет связь с сыном, так и не узнав о его судьбе. Терзаясь мыслями о нем, София спустя годы совершает суицид.
2.Конфликт долга. К выдающему французскому философу Ж.-П. Сартру как-то пришёл его ученик, который просил совета. Ему хотелось стать участником «Сражающейся Франции», организации, боровшейся против фашистов, но его беспокоила судьба матери, тяжело переживавшей смерть своего старшего сына. «Что делать, - вопрошал юноша, - остаться с матерью или же уйти в ряды вооружённых сил?» У него было много доводов в пользу как первого, так и второго решения. Ни наука, ни писаная мораль не давали ему ответа на поставленный вопрос. Сартр же был по-философски суров: «Вы свободны, выбирайте сами». Смысл ответа знаменитого экзистенциалиста таков: каждый сам ответствен за свой поступок. При всём желании Сартр оказался не в состоянии помочь своему юному другу.
3.Несчастье Павлика Морозова. Председатель пионерского отряда села Герасимовки Свердловской области был убит в 1932 г. за донос на своего отца, прятавшего зерно. Показательно, что поступок Павлика и его судьба по-разному оценивались в различные исторические периоды. В советские годы пионер был провозглашён национальным героем, в постсоциалистический период в России его признали предателем и отцеубийцей. Пишущие о поступке Павлика Морозова не обращали никакого внимания на то, что мальчик 14 лет оказался в типичной ситуации моральной дилеммы.
4.Драма Н.В. Тимофеева-Ресовского. По просьбе немецкой стороны молодого талантливого русского генетика Тимофеева-Ресовского направили работать в г. Бух, где ему создали прекрасные условия для научного творчества. Прошли годы, и возмужавший учёный, бывший к тому времени отцом двоих сыновей, оказался в ситуации моральной дилеммы. Российская сторона, начиная с 1937 г., требовала его возвращения на родину, но, предупреждённый товарищами, он знал, что ему был предуготовлен сталинский лагерь. Тимофеев-Ресовский остался в Германии, где властвовал фашистский режим, к тому же Германия развязала войну против СССР. Мужественный учёный сохранял хладнокровие. Но на протяжении многих лет трагизм ситуации не только не убывал, а, наоборот, возрастал. Погиб его старший сын, участник группы подпольщиков. Сам Тимофеев-Ресовский, чудом избежав расправы со стороны немецких нацистов, возвратился после их краха в Россию, где он мечтал организовать перспективный научно-исследовательский институт, но был осуждён на 10 лет заключения. Впоследствии ему удалось вернуться к активной научной работе, но прошлое постоянно напоминало о себе пожилому учёному. Он приобретал всё новых и новых друзей, признававших в нем выдающегося ученого и патриота, и врагов, относившихся к нему как к коллаборационисту. Последние по настоящий день склонны считать, что, во-первых, за обсуждаемую ситуацию моральной дилеммы был ответствен сам Тимофеев-Ресовский, во-вторых, что он мог преодолеть её. При этом противники учёного, в том числе обладающие научными степенями, не проявляют даже малейшего желания сколько-нибудь серьёзно отнестись к самой проблеме моральной дилеммы. Они никак не могут понять, что она была в принципе непреодолимой. Тимофеев-Ресовский не по своей воле был обречён на трагедию. Трагедия не преодолевается, она переживается в муках и сомнениях. Винить за неё пострадавшего человека нет никаких оснований. С позиций этической теории это безответственно, ибо недопонимается сам статус этической теории, в том числе вся проблематика моральных дилемм.via
******************************************
Так вот - президент РФ за последние пару лет находится постоянно в состоянии необходимости принятия решения по поводу череды моральных дилемм, вызовов, бросаемых ему временем и обстоятельствами, точнее, злой волей противника, нацеленного на уничтожение России...
Вот только несколько - введение войск на Донбасс для защиты русских&недопущение втягивания России в войну, наказание Турции за сбитый самолет и погибшего пилота&недопущение втягивания России в войну, ответ НАТО на череду провокаций на границе&недопущение втягивания России в войну. То есть, все моральные дилеммы, ставящиеся перед Россией Западом, в сущности, сводятся к одной, что наводит на глубокие размышления...
Но, в то же время, дает однозначный ответ на вопрос - стоит ли всякий раз, в случаях не столь однозначных альтернатив, подвергать сомнению правильность решения человека, перед которым жизнь ставит моральные дилеммы трагической обостренности, требующие для их осмысления и решения значительно большие интеллектуальные и нравственные усилия, нежели при постижении рядовых, штатных ситуаций?
И кто из нас посмеет судить героев приведенных выше дилемм за их решение в пользу того или иного выбора? А президента, решающего судьбу, не свою или группы близких людей, но целой страны - кто может судить, не зная, практически никогда, имеющихся альтернатив?
Если же кто-то все таки делает это (примеры приводить, я полагаю, нет необходимости), то - по какому праву и с какой целью?
Кстати, отличные киноиллюстрации сложности решения моральных дилемм даны в упомянутом Выборе Софи, а также, например, в фильмах датчанина Т. Линдхольма Заключенный, Заложники, Война, для самых занятых в короткометражке Дилемма (9 мин экранного времени)...
И - да, попробуйте протестироваться на предмет решения упомянутых выше моральных дилемм с позиции массачусетского эксперимента, поставив себя на место самоуправляемого субъекта искусственного интеллекта и определив - кем, или чем пожертвовать...
Если хотите устроить самопроверку на предмет способа решения моральных дилемм строго в соответствии с канонами психологического эксперимента, попробуйте решить "дилемму аптекаря Хайнца" -
[моральная дилемма Хайнца]
Женщина умирает от особой формы рака. Есть только одно лекарство, которое, по мнению докторов, могло бы ее спасти. Это препарат радия, недавно открытый фармацевтом в этом же городе. Изготовление лекарства стоит дорого. Но фармацевт назначил цену в 10 раз больше. Он заплатил 400 долларов за радий, а за небольшую дозу лекарства требует 4000 долларов. Муж больной женщины, Хайнц, обошел всех знакомых, взял взаймы сколько смог и использовал все легальные средства, но собрал лишь около 2000 долларов. Он сказал фармацевту, что жена умирает, и просил его продать лекарство дешевле или подождать с остальными деньгами. Но фармацевт ответил: «Нет, я открыл это лекарство и собираюсь хорошо на нем заработать». И тогда Хайнц решил взломать аптеку и украсть лекарство.
Вопросы
Решение дилеммы
Самое главное: «правильного» решения этой дилеммы нет! Если человек считает, что аптеку нужно взломать, его нельзя назвать более нравственным или менее нравственным. Весь вопрос в том, как принимается решение. И здесь Колберг выделяет несколько стадий нравственного развития.
Этап 1. Повиновение. Хайнц не должен красть лекарство, потому что его посадят за это в тюрьму. Или: Хайнц должен украсть лекарство, потому что оно стоит только 400 долларов, а не 4000, которых требует фармацевт.
Этап 2. Собственный интерес. Хайнц должен украсть лекарство, потому что он будет очень счастлив, если спасет жену. Или: Хайнц не должен красть лекарство, потому что тюрьма - ужасное место, и он будет там страдать больше, чем от смерти жены.
Этап 3. Конформизм. Хайнц должен украсть лекарство, потому что его жена ждет этого и он хочет быть хорошим мужем. Или: Хайнц не должен красть лекарство, потому что он пытался сделать все, что мог, в рамках закона, мы не можем его ни в чем обвинить.
Этап 4. Закон и порядок. Хайнц не должен красть лекарство, потому что закон запрещает кражу. Или: Хайнц должен украсть лекарство для своей жены и принять положенное за это наказание, а также заплатить фармацевту всю сумму.
Этап 5. Права человека. Хайнц должен украсть лекарство, потому что каждый имеет право на жизнь, независимо от норм закона. Или: Хайнц не должен красть лекарство, потому что фармацевт имеет право на свой доход.
Этап 6. Универсальная этика. Хайнц должен украсть лекарство, потому что спасение человеческой жизни - это более фундаментальная ценность, чем право собственности другого человека. Или: Хайнц не должен красть лекарство, потому что другие так же сильно нуждаются в нем и их жизни представляют такую же ценность, как жизнь его жены.
**************************************
МОСКВА, 2 июл - РИА Новости. Мораль искусственного интеллекта - один из самых обсуждаемых вопросов, связанных с наступлением всеобщей компьютеризации. Массачусетский технологический институт создал тест, помогающий понять моральные дилеммы, с которыми сталкиваются разработчики разума машины.
Тест крайне простой. Человеку предлагается поставить себя на место искусственного интеллекта самоуправляемого автомобиля и решить, кем пожертвовать в ДТП - пассажирами в машине или пешеходами на перекрестке. Другой вопрос заставляет выбирать, кого из пешеходов придется задавить, чтобы спасти других.
В конце теста пользователю сообщают, кем он жертвовал чаще всего и приводятся результаты других опрашиваемых.
*****************************************
и пару комментариев к ней -
vip.dim50 -ИИ выберет убить всех, вт.ч водителя. Простая арифметика - нет водителя, нет причин возможных будущих аварий. Плюс нет пешеходов, нет будущих аварий. Итог квантовых вычислений - нет людей, нет проблем. Чистый, безопасный, тихий мир. И скайнет с ухмылкой терминатора запускает все ракеты...
lexander Andreev -Ну прямо анекдот: В Грузии сдает парень на права и сотрудник полиции, чтоб добить задает вопрос: Ситуация, справа крутой обрыв, слева скала. Тебе дорогу переходят бабулька и молодая девушка, кого будешь давить?
Конечно бабушку, она своё отжила:)
Идиот!!! Тормоз давить надо, тормоз!!!
*************************************На самом деле, простенькая заметка о новых достижениях айти-отрасли навела на мысль о том, что основной задачей власти вообще и сейчас, в особенности, является решение череды сложных моральных дилемм.
При этом угодить всем, по определению, невозможно, потому и дилемма, а волна возмущения обиженными в любом случае будет поднята, причем небезосновательно - дилемма-то моральная, то есть, всякий выбор будет в чем-то и для кого-то аморален.
Чтобы понять всю сложность и трагизм ситуации необходимости однозначного выбора при наличии моральной дилеммы, приведу самые известные ее случаи, помимо классического, с принятием врачом решения об эвтаназии, например -[примеры моральных дилемм]
1.Трагедия Софии Завистовской. В новелле У. Стирона «Выбор Софии» (1976) польскую женщину, оказавшуюся в фашистском концентрационном лагере Аушвитц, «награждают» возможностью не быть признанной еврейкой и, следовательно, спасти себя. Её поставили перед выбором обречь на газовую камеру либо дочь, либо сына, который старше своей сестры. В случае если София не сделает выбора, будут уничтожены оба - и дочь, и сын. Она принимает решение в пользу дочери, надеясь, что сын сумеет спасти себя быстрее, чем дочь. Бедная женщина теряет связь с сыном, так и не узнав о его судьбе. Терзаясь мыслями о нем, София спустя годы совершает суицид.
2.Конфликт долга. К выдающему французскому философу Ж.-П. Сартру как-то пришёл его ученик, который просил совета. Ему хотелось стать участником «Сражающейся Франции», организации, боровшейся против фашистов, но его беспокоила судьба матери, тяжело переживавшей смерть своего старшего сына. «Что делать, - вопрошал юноша, - остаться с матерью или же уйти в ряды вооружённых сил?» У него было много доводов в пользу как первого, так и второго решения. Ни наука, ни писаная мораль не давали ему ответа на поставленный вопрос. Сартр же был по-философски суров: «Вы свободны, выбирайте сами». Смысл ответа знаменитого экзистенциалиста таков: каждый сам ответствен за свой поступок. При всём желании Сартр оказался не в состоянии помочь своему юному другу.
3.Несчастье Павлика Морозова. Председатель пионерского отряда села Герасимовки Свердловской области был убит в 1932 г. за донос на своего отца, прятавшего зерно. Показательно, что поступок Павлика и его судьба по-разному оценивались в различные исторические периоды. В советские годы пионер был провозглашён национальным героем, в постсоциалистический период в России его признали предателем и отцеубийцей. Пишущие о поступке Павлика Морозова не обращали никакого внимания на то, что мальчик 14 лет оказался в типичной ситуации моральной дилеммы.
4.Драма Н.В. Тимофеева-Ресовского. По просьбе немецкой стороны молодого талантливого русского генетика Тимофеева-Ресовского направили работать в г. Бух, где ему создали прекрасные условия для научного творчества. Прошли годы, и возмужавший учёный, бывший к тому времени отцом двоих сыновей, оказался в ситуации моральной дилеммы. Российская сторона, начиная с 1937 г., требовала его возвращения на родину, но, предупреждённый товарищами, он знал, что ему был предуготовлен сталинский лагерь. Тимофеев-Ресовский остался в Германии, где властвовал фашистский режим, к тому же Германия развязала войну против СССР. Мужественный учёный сохранял хладнокровие. Но на протяжении многих лет трагизм ситуации не только не убывал, а, наоборот, возрастал. Погиб его старший сын, участник группы подпольщиков. Сам Тимофеев-Ресовский, чудом избежав расправы со стороны немецких нацистов, возвратился после их краха в Россию, где он мечтал организовать перспективный научно-исследовательский институт, но был осуждён на 10 лет заключения. Впоследствии ему удалось вернуться к активной научной работе, но прошлое постоянно напоминало о себе пожилому учёному. Он приобретал всё новых и новых друзей, признававших в нем выдающегося ученого и патриота, и врагов, относившихся к нему как к коллаборационисту. Последние по настоящий день склонны считать, что, во-первых, за обсуждаемую ситуацию моральной дилеммы был ответствен сам Тимофеев-Ресовский, во-вторых, что он мог преодолеть её. При этом противники учёного, в том числе обладающие научными степенями, не проявляют даже малейшего желания сколько-нибудь серьёзно отнестись к самой проблеме моральной дилеммы. Они никак не могут понять, что она была в принципе непреодолимой. Тимофеев-Ресовский не по своей воле был обречён на трагедию. Трагедия не преодолевается, она переживается в муках и сомнениях. Винить за неё пострадавшего человека нет никаких оснований. С позиций этической теории это безответственно, ибо недопонимается сам статус этической теории, в том числе вся проблематика моральных дилемм.via
******************************************
Так вот - президент РФ за последние пару лет находится постоянно в состоянии необходимости принятия решения по поводу череды моральных дилемм, вызовов, бросаемых ему временем и обстоятельствами, точнее, злой волей противника, нацеленного на уничтожение России...
Вот только несколько - введение войск на Донбасс для защиты русских&недопущение втягивания России в войну, наказание Турции за сбитый самолет и погибшего пилота&недопущение втягивания России в войну, ответ НАТО на череду провокаций на границе&недопущение втягивания России в войну. То есть, все моральные дилеммы, ставящиеся перед Россией Западом, в сущности, сводятся к одной, что наводит на глубокие размышления...
Но, в то же время, дает однозначный ответ на вопрос - стоит ли всякий раз, в случаях не столь однозначных альтернатив, подвергать сомнению правильность решения человека, перед которым жизнь ставит моральные дилеммы трагической обостренности, требующие для их осмысления и решения значительно большие интеллектуальные и нравственные усилия, нежели при постижении рядовых, штатных ситуаций?
И кто из нас посмеет судить героев приведенных выше дилемм за их решение в пользу того или иного выбора? А президента, решающего судьбу, не свою или группы близких людей, но целой страны - кто может судить, не зная, практически никогда, имеющихся альтернатив?
Если же кто-то все таки делает это (примеры приводить, я полагаю, нет необходимости), то - по какому праву и с какой целью?
Кстати, отличные киноиллюстрации сложности решения моральных дилемм даны в упомянутом Выборе Софи, а также, например, в фильмах датчанина Т. Линдхольма Заключенный, Заложники, Война, для самых занятых в короткометражке Дилемма (9 мин экранного времени)...
И - да, попробуйте протестироваться на предмет решения упомянутых выше моральных дилемм с позиции массачусетского эксперимента, поставив себя на место самоуправляемого субъекта искусственного интеллекта и определив - кем, или чем пожертвовать...
Если хотите устроить самопроверку на предмет способа решения моральных дилемм строго в соответствии с канонами психологического эксперимента, попробуйте решить "дилемму аптекаря Хайнца" -
[моральная дилемма Хайнца]
Женщина умирает от особой формы рака. Есть только одно лекарство, которое, по мнению докторов, могло бы ее спасти. Это препарат радия, недавно открытый фармацевтом в этом же городе. Изготовление лекарства стоит дорого. Но фармацевт назначил цену в 10 раз больше. Он заплатил 400 долларов за радий, а за небольшую дозу лекарства требует 4000 долларов. Муж больной женщины, Хайнц, обошел всех знакомых, взял взаймы сколько смог и использовал все легальные средства, но собрал лишь около 2000 долларов. Он сказал фармацевту, что жена умирает, и просил его продать лекарство дешевле или подождать с остальными деньгами. Но фармацевт ответил: «Нет, я открыл это лекарство и собираюсь хорошо на нем заработать». И тогда Хайнц решил взломать аптеку и украсть лекарство.
Вопросы
- Должен ли Хайнц украсть лекарство? Почему?
- Если бы Хайнц не любил свою жену, должен он был бы украсть лекарство для нее?
- Предположим, что умирает не его жена, а чужой человек. Должен ли Хайнц стащить лекарство для чужого? Почему да или нет?
- Предположим, этот Хайнц все-таки залез в аптеку. Он украл лекарство и дал его жене. На следующий день в газетах появилось сообщение о грабеже. Офицер полиции Браун, который знал Хайнца, прочитал сообщение. Он вспомнил, что видел Хайнца бегущим от аптеки, и понял, что это сделал именно он. Должен ли офицер Браун сообщить о том, что кражу совершил Хайнц?
- Допустим, офицер Браун - близкий друг Хайнца. Должен ли он тогда подать рапорт о том, что он видел?
- Представим, что офицер Браун сообщил о Хайнце. Хайнц был арестован и предстал перед судом. Должен ли судья определить Хайнцу наказание или он должен освободить его?
Решение дилеммы
Самое главное: «правильного» решения этой дилеммы нет! Если человек считает, что аптеку нужно взломать, его нельзя назвать более нравственным или менее нравственным. Весь вопрос в том, как принимается решение. И здесь Колберг выделяет несколько стадий нравственного развития.
Этап 1. Повиновение. Хайнц не должен красть лекарство, потому что его посадят за это в тюрьму. Или: Хайнц должен украсть лекарство, потому что оно стоит только 400 долларов, а не 4000, которых требует фармацевт.
Этап 2. Собственный интерес. Хайнц должен украсть лекарство, потому что он будет очень счастлив, если спасет жену. Или: Хайнц не должен красть лекарство, потому что тюрьма - ужасное место, и он будет там страдать больше, чем от смерти жены.
Этап 3. Конформизм. Хайнц должен украсть лекарство, потому что его жена ждет этого и он хочет быть хорошим мужем. Или: Хайнц не должен красть лекарство, потому что он пытался сделать все, что мог, в рамках закона, мы не можем его ни в чем обвинить.
Этап 4. Закон и порядок. Хайнц не должен красть лекарство, потому что закон запрещает кражу. Или: Хайнц должен украсть лекарство для своей жены и принять положенное за это наказание, а также заплатить фармацевту всю сумму.
Этап 5. Права человека. Хайнц должен украсть лекарство, потому что каждый имеет право на жизнь, независимо от норм закона. Или: Хайнц не должен красть лекарство, потому что фармацевт имеет право на свой доход.
Этап 6. Универсальная этика. Хайнц должен украсть лекарство, потому что спасение человеческой жизни - это более фундаментальная ценность, чем право собственности другого человека. Или: Хайнц не должен красть лекарство, потому что другие так же сильно нуждаются в нем и их жизни представляют такую же ценность, как жизнь его жены.
**************************************