Китайские суды обязали консультироваться с искусственным интеллектом
Уже сейчас ИИ принимает участие в каждом судебном деле, заявил представитель пресс-службы Верховного суда Китая Сюй Цзяньфэн. А прокуратура страны проверяет способность машинного интеллекта самостоятельно выдвигать версии обвинения.
Верховный суд КНР обязал судей при принятии решений консультироваться с искусственным интеллектом, сообщает South China Morning Post. Нейросеть будет автоматически проверять судебные дела на наличие ссылок, а также рекомендовать законы и постановления, наиболее отвечающие сути спора. Эксперты опасаются «эрозии» судебной власти под влиянием крупных технологических компаний, которые и разрабатывают ИИ.
Систему «Умный суд» запустили в Китае в 2015 году. Власти обязали все суды страны унифицировать свои цифровые системы и подключить базы данных к центру в Пекине. Одновременно информационный портал дал судьям доступ к базе данных полиции, прокуратуры и некоторых других госорганов.
Самообучающаяся система ежедневно обрабатывает около 100 000 дел по всему Китаю. С помощью ИИ также решается проблема нехватки кадров для приведения актов в исполнение: собственность фигурантов при необходимости практически мгновенно арестуют или выставляют на электронный аукцион. Данные о приговорах и привлечении к ответственности также передают в китайскую систему «социального рейтинга».
Если судья решит отклонить рекомендации ИИ, ему нужно будет письменно мотивировать это решение. Эксперты опасаются, что в большинстве случаев судьи не будут этого делать, чтобы упростить себе работу и снизить риски. В результате их роль может свестись к визированию оценок ИИ.
Поскольку систему разрабатывали при непосредственном участии технологических гигантов КНР, это косвенно передает очень большую власть экспертам нескольких цифровых компаний, считает Чжан Линхан, профессор права Китайского университета политических наук и права.
ИИ уже активно использует в своей работе китайская прокуратура. Пока машинный интеллект применяют для оценки доказательств и угрозы, которую подозреваемый может представлять для общества. А в начале 2022 года прокуратура Шанхая протестировала ИИ, который может выдвигать собственные версии обвинения по восьми наиболее распространенным уголовным статьям, включая мошенничество, азартные игры, опасное вождение, умышленное причинение физического вреда и воспрепятствование выполнению служебных обязанностей. Точность таких обвинений составляет 97%, сообщают китайские правоохранители.
источник
Возражения скептиков:
Это, безусловно, продолжение развития системы цифрового «социального кредита». Есть алгоритмы, которым обязан подчиняться человек, значит, должны существовать алгоритмы, по которым будут определяться и поступки, не соответствующие поведенческим нормам.
Фактически это уже муравейник с жестко запрограммированным инстинктивным поведением. «Элизиум - рай не на Земле» очень неплохо визуализировал подобные технологии управления.
В чем здесь проблема? В том, что сложное поведение человека позволяет ему менять свой функционал, в том числе и социальный, сообразно возникающим обстоятельствам. Если человек лишен возможности «переключаться», он в изменившихся условиях оказывается неспособен на осмысленные реакции. Конечно, в него можно «записать» ряд алгоритмов для реагирования на какие-то типовые ситуации, но жизнь всегда сложнее.
источник