Проишествие с автопарковкой Volvo
Две недели назад в блоге Доминиканской республики опубликовали видео-ролик, где автомобиль Volvo с системой автопарковки сбивает двух человек:
Click to viewВ видео показано, как люди стоят в гараже с Volvo XC60 и снимают, как машина дает назад, останавливается, но потом разгоняется и сбивает снимающих её людей.
Представители Volvo объяснили проишествие следующими обстоятельствами. Во-первых, автомобиль с системой автоматической парковки не являлся безопасным, т.е. за это отвечали владеющие им люди. Во-вторых, автомобиль для того чтобы быть безопасным, должен одновременно быть обеспечен как системой автоматического торможения (auto-braking), так и системой распознавания пешеходов (pedestrian detection). В данном случае произошло так, что машина не имела последней (её не было в комплекте покупки, и она стоит дополнительных 3000$).
Юридически в действующей программе City Safety получилось так (и на практике как видим тоже), что функция обеспечения безопасности водителя обязательна, а безопасности пешеходов не обязательна.
Однако, представитель Volvo говорит о том, что даже в случае наличия подсистемы обнаружения пешеходов могло произойти подобное в том случае, если бы водитель отключил подсистему обнаружения пешеходов или подсистему автоматического включения тормозов.
В то же время специалисты по безопасности обращают внимание на проблему в том, что люди игнорировали свои инстинкты и были уверены в том, что искуственный интеллект автомобиля будет знать и иметь возможность избежать проишествия. Т.е. наблюдается невероятная вера в искуственный интеллект машин, в то время, когда они могут и не быть безопасными.
В настоящее время Volvo настоятельно рекомендует не тестировать искустенный интеллект таким вот образом.
По этому проишествию есть некоторое беспокойство, и специалисты по безопасности обращают внимание на связанные с этим риски. Потенциально это вполне вероятно выльется в некоторые требования безопасности на государственном или межгосударственном уровне (стандартов), когда безопасность пешеходов обязана быть обеспечена в случае автоматизации некоторых функций автомобиля.
http://fusion.net/story/139703/self-parking-car-accident-no-pedestrian-detection/
http://boingboing.net/2015/05/26/volvo-says-horrible-self-par.html
Дополнение
Разбор одного из специалистов по безопасности. Согласно ему, вопросом безопасности не-водителей 10 лет назад (при проектировании автоматизированных систем автомобилей) фактически никто не занимался. Сейчас ставится вопрос в введении понятия "vulnerable road users" (уязвимые участники дорожного движения), в которое входят например не только пешеходы, но и велосипедисты. Соответственно, создаются усилия для того, чтобы безопасность их была также стандартом для автоматических систем автомобилей.