Дискуссия об искусственном интеллекте и природе власти.
От редакции:
Сегодня без преувеличения можно сказать, что искусственный интеллект, перейдя в сознании обывателя из разряда явлений научно-фантастических в категорию обыденно-бытовых, прочно вошёл в нашу жизнь, сделав её существенно комфортнее.
Программным обеспечением, самостоятельно принимающим решение на основе входящих данных, напичканы смартфоны, компьютеры, фото- и видеотехника, автомобили и даже бытовые приборы. Примеров множество и перечислять их можно довольно долго, но не в этом суть.
По мере того как научно-технический прогресс вообще и достижения в области систем искусственного интеллекта в частности охватывают всё новые и новые сферы нашей жизнедеятельности, резко усиливается зависимость человека от благ и комфорта, даруемых технологиями.
И на первый план выходит гуманитарный аспект отношений человека и техники. Ведь что такое по большому счёту «искусственный интеллект» (ИИ) с точки зрения науки? Это всего лишь сложный алгоритм или набор правил для компьютера, имитирующий некие когнитивные функции человеческого разума.
Сторонники так называемого «сильного» ИИ уверены, что создание аппаратно-программного комплекса, поведение которого будет неотличимо от человеческого сознания, в принципе возможно, и со временем такая система обязательно возникнет.
Она будет мыслить и сознавать себя в полном смысле этого слова. Внешне это будет выглядеть так, что сколь бы долго человек не общался с сильным ИИ, он не сможет понять, что перед ним не человек, а машина.
Противники теории «сильного ИИ», например лауреат Нобелевской премии по физике, известный английский физик, математик и философ Роджер Пенроуз, доказывают, что сильный ИИ невозможен в силу несводимости человеческого интеллекта, а следовательно, и человеческого сознания, к алгоритму. Поскольку любой алгоритм, будучи формализован для выполнения на вычислительной машине, подчиняется следствиям теоремы Гёделя о неполноте.
Не вдаваясь в тонкости аргументации сторонников и противников «сильного ИИ», отметим, что вопрос о взаимоотношениях человека и машины сегодня приобретает экзистенциальный характер, поскольку машине постепенно передаются функции управления обществом.
Сначала эти функции автоматизируются (например, выписка штрафов), а в перспективе все решения будут приниматься на основе рекомендаций искусственного интеллекта. Будет ли их визировать человек или не будет - роли уже не играет, потому что проверить правильность расчётов и адекватность заложенной в программу модели он уже физически не сможет.
Эпидемия коронавируса процесс автоматизации и цифровизации лишь подстегнула. С ним столкнулись широчайшие слои общества, а столкнувшись, сильно призадумались, поскольку становится очевидным мощное волевое внедрение ИИ в обыденную жизнь, а то, что это происходит под «легендой прикрытия», дополнительно усиливает подозрения. Остро встаёт вопрос о последствиях «неизбежной и желанной» роботизации.
Если предположить, что машина в какой-то момент станет разумной, то возникает ряд очень щекотливых вопросов морально-этического плана. И хотя эти вопросы сформулированы давно, практически одновременно с появлением самых первых разработок в сфере ИИ, - их актуальность лишь нарастает.
Если машина обладает сознанием на уровне человека, то должны ли мы признать за ней юридические и политические права? Является ли выключение мыслящей машины аналогом убийства человека? Несёт ли машина ответственность, если в результате её действий погиб или пострадал человек? И вообще, имеем ли мы моральное право передать машине функции управления, если её решения могут нанести ущерб жизни и здоровью человека?
Допустимо ли в принципе отдать на откуп искусственному интеллекту управление судьбами человечества или даже одного отдельно взятого человека? И это не абстрактные рассуждения писателей-фантастов или футурологов, не «Спилберг перед сном», а вещи, внесённые в повестку на самом высоком уровне, ибо необходимость ответить на эти вопросы более чем назрела.
Дискуссия здесь.