Восстания машин не будет
Исследователи DeepMind сообщили, что разрабатывают инструмент аварийного отключения самообучающихся алгоритмов. Он должен по одному клику останавливать систему, если она “намерена произвести действия, представляющие опасность и приводящие к необратимым последствиям”.
Инструмент для отключения необходим, чтобы остановить работу системы искусственного интеллекта в режиме реального времени. Если система, работающая под наблюдением человека, будет близка к выполнению действий, которые могут навредить ей самой, человеку или её окружению, оператор сможет «нажать на красную кнопку», чтобы прекратить её работу.
Инструмент, в первую очередь, будет использован в робототехнике. Подача команды «стоп» должна прервать деятельность робота, чтобы обезопасить его самого, людей, работающих рядом, и другое окружение.
Кроме того, всё больше ученых приходят к мысли, что свободу искусственного интеллекта необходимо ограничить.
Инструмент для отключения необходим, чтобы остановить работу системы искусственного интеллекта в режиме реального времени. Если система, работающая под наблюдением человека, будет близка к выполнению действий, которые могут навредить ей самой, человеку или её окружению, оператор сможет «нажать на красную кнопку», чтобы прекратить её работу.
Инструмент, в первую очередь, будет использован в робототехнике. Подача команды «стоп» должна прервать деятельность робота, чтобы обезопасить его самого, людей, работающих рядом, и другое окружение.
Кроме того, всё больше ученых приходят к мысли, что свободу искусственного интеллекта необходимо ограничить.