Робототехническое

[city_rat]

От доброго знакомого фейсбуком принесло ссылку на некий тест насчет "моральных роботов".
Все на ту же старую тему их анекдота про сдачу экзаменов в грузинской автошколе: "Вай, каво давыт будэшь?"

Мы тут уже немножко похоливарили на тему

Comments

[icamel]

По-моему там еще такой момент есть. Люди в управляемом роботом автомобиле полностью зависят от робота и не могут спастись самостоятельно, в то время как субъекты, слоняющиеся по дороге совершенно добровольно решили подвергнуть свою жизнь опасности.

Давайте будем теперь решать моральную проблему, должен ли фрезерный станок направлять фрезу в фрезеровщика, если посторонний человек будет совать под нее свои руки.

[city_rat]

Вот-вот.

[eleyvie]

То есть в такой машине совершенно невозможно поставить кнопку "экстренное торможение с последующим выключением автопилота"?

[icamel]

Стоп-кран можно поставить куда угодно, да. Но если мы говорим о полностью роботизированной системе, пассажиры не держат руки на руле и ноги на тормозе и о том, что водитель (на самом деле для них неважно, робот это или человек) вместо того, чтобы их спасать, решает моральные проблемы, они узнают по резкому рывку в сторону и тогда они могут не успеть дернуть этот стоп-кран.

[vitus_wagner]

А все потому, что люди не только на выборах голосуют сердцем, но и машину водят не мозгами, а эмоциями.

[randomisator]

Порядок конкретных ситуаций в тесте меняется с каждым его прохождением, так что хотелось бы не только номера слайдов;)

[city_rat]

Да уж теперь я и сам не вытащу :)
Кто ж знал-то...

[taraslive]

Ну да, похоже ПДД все вопросы решило уже. Правда оно решило исходя из воможностей людей, а роботы может и правда смогут как Сенна гонять.
В любом случае даже если моральные дилеммы возникнут, они будут малозначимыми. Очень редкая ситуация на самом деле.

[city_rat]

ПДД, конечно, решило не все вопросы. Но оно решило вопрос "что делать, если ответа на вопрос в ПДД нету".

[_slw]

пдд решило вопрос с сеннами методом их полного исключения.
бо ты-то может и сенна, а вот те кто рядом/сзади -- нет, потому и ты не выебывайся, держи оговоренную дистанцию и действуй по правилам, поскольку остальные на тебя среагировать не успеют.

[wesel]

Слайды не открываются, но присоединюсь к комментатору выше - робот действительно может (в перспективе) водить куда точнее человека (среднего), и потому ему могут разрешить более сложные маневры. Скажем, никого же не удивляет, что ПО "разрешено" вести расчеты, по сложности куда превосходящие возможности проверяющих с ручкой и бумажкой..

[city_rat]

И так уже есть понятие "безопасного маневра". Просто робот определяет его гораздо лучше, чем человек, и у него не бывает мотивации "я думал проскочу". Если безопасный маневр возможен - робот его должен выполнить, если невозможен - тормозить в пол с АБС.

[wesel]

Вообще, концепция безопасного маневра рассчитана на людей в качестве исполнителей и людей в окружении. Как и ПДД, как и архитектура дорожного движения в целом. Даже поведение пешеходов по принципу "не трамвай, объедет" - отлично адаптируется к ситуациям, когда таки трамвай и нет, не объедет.

Так что по уму надо переделывать все с нуля - но вместо этого будут решать, разумеется, на порядки более сложную задачу - "надо поддержать все легаси". Куда это привело, к примеру, Windows - всем хорошо видно. Но работать будет, как и винда работает же. Постепенно перемелют инфраструктуру под себя, вплоть до момента, когда новая безопасность на дорогах будет просто исключать человека за рулем. Как часто в софтварных проектах и бывает - хотя конечная точка всем понятна, идти к ней кратчайшим путем никто не даст (:

[ufm]

Когда за рулём будут только роботы - нет проблем.
Сейчас - робот должен вести себя на дороге предсказуемо с точки зрения остальных водителей. Т.е. даже если он своим манёвром может уклониться от - он должен тупо тормозить в пол.