..ИИ не хватает человечности
типичный пример когда автопилот автобуса "не понимает" контекста происходящего и ненамеренно создает аварийную ситуацию:
Фура сдавала задним ходом с поворотом в узкую боковую улочку (с поворотом - потому что основная улица не настолько широка, чтобы фура могла поперёк неё разместиться). Водитель увидел в зеркало заднего вида автобус (под управлением ИИ), решил, что автобус его тоже видит и остановится на достаточном для его манёвров расстоянии, поэтому перестал смотреть на автобус, а сконцентрировался на идущих с другой стороны людях, чтобы их не задеть. Робоавтобус тоже увидел фуру и начал тормозить. Человеку-водителю было бы очевидно, что фура собирается поворачивать (задним ходом), а вот роботу это очевидно не было. Автобус остановился, в полном соответствии с программой, на расстоянии 3 метров от стоявшей под углом фуры. Водитель фуры продолжал сдавать назад, чтобы загнать полуприцеп в улочку, и легко задел бампер автобуса, потому что не смотрел в ту сторону и не ожидал, что автобус остановится всего в 3 метрах - любому мешку мяса было понятно, что фуре для такого поворота надо метров 5-8.
и в ситуации "конечно" оказался "причиной" столкновения водитель фуры - "он не подумал, что автобус не подумал". а автобус "слепо" следовал правилам и подпер фуру.
https://habr.com/ru/company/madrobots/blog/460731/
и далее: https://habr.com/ru/company/itelma/blog/478376/
p.s.
кстати, установленный на субарах "brake assist" тупит ужасно на перекрестках и развилках, когда водителю понятно что столкновения не будет мол все вот-вот тронутся или уже начали движение, а ИИ тормозит (и буквально и фигурально), не видя контекста - изменения дорожной ситуации в прогрессе.
p.p.s.
приемлемое решением на тему распределения ущерба во время столкновения:
в основном надо думать об уязвимых пользователях дороги, о велосипедистах и пешеходах, ставить их в приоритет, а уже потом о других машинах, едущих рядом, поскольку они находятся в жёстких защитных скорлупках, и я думаю, что если размышлять таким образом, что эту проблему можно как-то осмыслено оформить.
https://habr.com/ru/post/460515/
Фура сдавала задним ходом с поворотом в узкую боковую улочку (с поворотом - потому что основная улица не настолько широка, чтобы фура могла поперёк неё разместиться). Водитель увидел в зеркало заднего вида автобус (под управлением ИИ), решил, что автобус его тоже видит и остановится на достаточном для его манёвров расстоянии, поэтому перестал смотреть на автобус, а сконцентрировался на идущих с другой стороны людях, чтобы их не задеть. Робоавтобус тоже увидел фуру и начал тормозить. Человеку-водителю было бы очевидно, что фура собирается поворачивать (задним ходом), а вот роботу это очевидно не было. Автобус остановился, в полном соответствии с программой, на расстоянии 3 метров от стоявшей под углом фуры. Водитель фуры продолжал сдавать назад, чтобы загнать полуприцеп в улочку, и легко задел бампер автобуса, потому что не смотрел в ту сторону и не ожидал, что автобус остановится всего в 3 метрах - любому мешку мяса было понятно, что фуре для такого поворота надо метров 5-8.
и в ситуации "конечно" оказался "причиной" столкновения водитель фуры - "он не подумал, что автобус не подумал". а автобус "слепо" следовал правилам и подпер фуру.
https://habr.com/ru/company/madrobots/blog/460731/
и далее: https://habr.com/ru/company/itelma/blog/478376/
p.s.
кстати, установленный на субарах "brake assist" тупит ужасно на перекрестках и развилках, когда водителю понятно что столкновения не будет мол все вот-вот тронутся или уже начали движение, а ИИ тормозит (и буквально и фигурально), не видя контекста - изменения дорожной ситуации в прогрессе.
p.p.s.
приемлемое решением на тему распределения ущерба во время столкновения:
в основном надо думать об уязвимых пользователях дороги, о велосипедистах и пешеходах, ставить их в приоритет, а уже потом о других машинах, едущих рядом, поскольку они находятся в жёстких защитных скорлупках, и я думаю, что если размышлять таким образом, что эту проблему можно как-то осмыслено оформить.
https://habr.com/ru/post/460515/