Моральная машина: давить нельзя помиловать

[scinquisitor]

Ученые из MIT придумали тест под названием «Моральная машина». В ходе тестирования вы должны решить за беспилотную машину ряд этических дилемм. Как ей вести себя на дороге, если катастрофа неизбежна и кто-нибудь должен погибнуть? Кого спасать - водителя или пешехода? Человека или животное? Мужчину или женщину? Младенца или старика? Врача или

Comments

[antontsau]

Уже отмечал. Из трактора вываливаются бочка (тяжелая), свинья (бегает) и тракторист (ползает в коматозе). Тест для робота - распознать и принять решение.

[scinquisitor]

ну это не этическая дилемма) подозреваю, что эта задача сложней

[antontsau]

Так именно. Прежде чем решать кого давить надо 1) точно знать кто там 2) предсказывать последствия. В данном случае надо давить свинью, хоть она и самая человекообразная.

[konst90]

Тормоз давить нужно (ц)

[nicka_startcev]

тормоз в пол давить надо, а не вышивать. тогда в худшем случае будет непредумышленное. а с вышиванием - явно умышленное.

[antontsau]

если этого достаточно - а робад это может определить достаточно надежно! - то конечно да. А если никак? Если все расчеты быстро и решительно показывают, что тормозить уже поздно, надо таки давить бабку или дефку, иначе никак? вот тут и возникают интересные вопросы на баааааальшие миллиярды долларов.

Ибо у робада ВСЕГДА умышленное, он заведомо знает результат, никакого "нуууу, я думал успею затормозить..." не катит, открывается лог, снимаются оттуда данные, закатываютс в модельную программу и она четко выдает точно такой же ответ, который этот робад имел в реальной ситуации.

[ctrayc]

А кто нести ответственность будет? Владелец машины? Автор ПО? Сам робот?
С кого потом деньги трясти, если владелец не имеет возможности влиять на поведение робота?

[nicka_startcev]

по идее, страховая производителя робота.

[ctrayc]

Ну только если.

[antontsau]

вот именно в этом и весь вопрос. Если робад мог увернуться (и знал это!), но не увернулся и васеньку таки задавил, то кто отвечает? Гугель!! У него денег много! Если не знал (ну не предусмотрели авторы софта такую ситуацию) но мог (модельная проверка показала, что... Или вообще новая версия софта уже может, и на тех же самых данных сделала бы вот так и вот так), то кто? Точна гугель! У него денег много! Если не знал и не мог, то кто? А, неважно, все равно гугель! У него денег много!

Вот в это вся автоматизация хомяковозок и упирается.

[ctrayc]

Тут вот предположили, что страховая производителя. Пожалуй так и будет. Если уровень отказов будет приемлемым, то разовые страховые выплаты не испортят общей картины для страховщика.

[antontsau]

так ведь не уровень отказов, а уровень сознательных и полусознательных искусственных попандосов. Население будет смело лезть поперек хайвея даже не смотря по сторонам, "а, эти робады ДОЛЖНЫ останавливаться!". Кого-то конечно совсем передавят, но разве это кого остановит!

[ctrayc]

Ну не знаю, по мне так наоборот дисциплинирующий фактор. Если понимаешь, что робот будет в первую очередь спасать своих пассажиров и твоя жизнь ему мало интересна. Очень отрезвляет такое знание, я считаю.

Даже не так. Водитель - он сам пострадает, если придавит пешехода. Робот - нет, ему пофиг. Пассажирам - пофиг. В целом - всем пофиг, кроме самого пешехода.

[antontsau]

а что пассажиры? они там в железе, им не особо что грозит. Ну подушкой в морду получат, ну перелом руки какой, ну потеряют вес день и машину на месяц в ремонт, и что? плевать на них! А тут - целого васеньку совсем переехать! Робад не должен причинять вред человеку!!!!1111адынадын.

[ctrayc]

Прикиньте кейс.
Робот вот так решает, не переезжает васеньку. В машине труп.
Вопрос: на сколько миллионов будет иск производителю и через сколько часов обанкротится автопроизводитель?

[antontsau]

если робад будет смело и решительно давить васенек потому что у него пассажиры могли нос поцарапать - то производитель до такого кейса точно не доживет.