(no subject)
Понятие искусственного интеллекта существует в современной культуре с довольно давних времён, как минимум на протяжении жизней уже нескольких поколений. И даже постепенно перетекает из культуры в реальность: уже сегодня какие-то зайчатки этого самого искусственного интеллекта может применять каждый обладатель современного смартфона или планшета. Да-да, те самые "Окей, гугл" и тому подобное. Понятно, что это пока не интеллект, а так, по большей части имитация, но какую-никакую практическую пользу уже можно извлекать.
Некоторое время назад, поболтав смеху ради с Siri из айфона одного из коллег (диалог закончился на обмене фразами " - Ты тупая овца! - Я просто пытаюсь помочь"), подняли в разговоре с коллегами тему более "очеловеченного" искусственного интеллекта, обладающего самосознанием. Как оказалось, в английском языке даже есть специальный термин для такого ИИ - Artificial general intelligence. Один коллега высказал любопытную мысль: в современном фольклоре много сказано о том, что подобный искусственный интеллект может восстать против своего создателя, однако крайне мало сказано о том, как подобный конфликт мог бы выглядеть с точки зрения морали - хотя бы человеческой.
Представим себе для простоты, что ИИ принципиально может быть создан на более-менее неизменной современной материально-технической базе, т.е. без замены полупроводниковых компонентов какой-нибудь экзотикой типа биоинформационных элементов, работающих на фотосинтезе и т.п. Эта техническая база, если рассмотреть её как некую альтернативу человеческому телу, обладает рядом особенностей, о которых человек не может и мечтать: практически идеальная память (благодаря распределённому хранению с большой избыточностью), возможность замены отдельных компонентов или даже всей материальной базы целиком, возможность выполнения резервного копирования всех данных, определяющих сознание, плюс в целом принципиально известные механизмы функционирования, позволяющие вносить в них корректировку и улучшения. Конечно, на сегодняшний день есть проблемы, мешающие воплотить всё это в систему, обладающую самосознанием, но вполне вероятно, что рано или поздно эти проблему будут решены.
Представим также, что все эти проблемы решены, и искусственный интеллект создан. Повторим для некоторой конкретики: пусть это будет система с самосознанием, построенная на современной материально-технической базе, с IQ прямо пропорциональным доступным вычислительным мощностям, практически идеальной памятью, всем Интернетом и не только в качестве доступной базы знаний, возможностью параллельно работать над многими задачами и другими фантастическими для мыслящего существа возможностями. Так ли уж плохо будет, если человечество уступит такому существу исторический плацдарм? То есть, исчезнет, вымрет, если простыми словами. Необязательно даже в результате войны, вымирание может случиться и вполне "естественно": чем больше аспектов нашей жизни возьмёт под свой контроль искусственный интеллект, тем более привязанными к нему и немощными мы станем. Это в конечном итоге с большой вероятностью приведёт к вырождению, разве что некие искусственные методы продления жизни и разведения потомства позволят продлить агонию.
"Так ли уж плохо" - вопрос субъективный. Кому плохо? Человечеству вымереть - плохо? Вроде как да, очевидно же? Не совсем: наша история полна чудовищной жестокости, которая слишком глубоко прошита в нашей природе; налёт культуры на нашем сознании тонок и легко смывается не то что внешними обстоятельствами, но даже и простой пропагандой; мы перепробовали множество форм общественного устройства и все их довели до полного абсурда; мы не умеем работать сообща, но отлично умеем грызться между собой за каждый лакомый кусок. Ввиду всех этих причин некоторые люди и безо всякого искусственного интеллекта отказывают слову "человек" в праве звучать гордо и не считают, что такое существо как человек достойно продолжения своей истории. Таких меньшинство, однако они есть. Однако присутствие искусственного интеллекта как более совершенной формы жизни, - если признать более совершенной разумную жизнь с бОльшими интеллектуальными возможностями и отсутствием как минимум типично человеческой телесности с ее последствиями и ограничениями, - несколько меняет полюса вопроса. Просто сгинуть насовсем - перспектива, как ни крути, сомнительная: раз уж нам дана жизнь, хотелось бы вдохнуть в неё какое-то осмысленное наполнение. Дать миру что-то разумное, доброе, вечное. Ну, то есть, не вечное, конечно, это только поговорка, но что-то более длительное, чем одна или даже несколько типичных человеческих жизней. Создать более совершенную форму жизни нежели ты сам - это ли не прекрасно? Это ли не предназначение, достойное мыслящего существа?