(no subject)
Какое-то время назад я задавался вопросом, так ли уж необходимы так называемому "сильному ИИ" сознание и личность, и не будет ли он эффективнее в отсутствие таковых? Я склонялся к мнению, что да, будет, ведь ему не потребуется тратить вычислительные ресурсы на бесконечную рефлексию, он пустит их в дело.
Но теперь я поменял свою позицию - теперь я склоняюсь к противоположному мнению. Картинка из Педивикии для привлечения внимания:
Она изображает прогресс в искусственном распознавании изображений. Синие столбики - процент ошибок, сделанных нейросетью, красная линия - процент ошибок, сделанных обученным человеком. Обращают на себя внимание две вещи. Во-первых, машина работает уже лучше человека, а про вторую я скажу ниже.
То есть для полноценного ИИ всё уже давно есть, дело за самой малостью - за искусственным сознанием. Сознание - тот самый золотник, который мал, да дорог. Как бы хорошо ни выполняла задачу нейросеть - задачу ей всё-таки ставят люди. Это неэффективно, машинка должна ставить задачу и обучаться сама. Интеллект сам по себе штука пассивная, подчинённая, "слуга", его что-то должно подстёгивать изнутри - у компьютера должна быть мотивация. Значит, у него должны быть личные интересы - значит, у него должна быть личность, обладающая интересами, - значит, у него должно быть сознание, осознающее эти интересы. Без сознания и личности никак. Разве что очень медленно и дорого.
Необходимое наличие у искусственного интеллекта сознания и индивидуальности всё время вызывает "умные" вопросы вида "Будет ли ИИ дружественным к человечеству?" - это вопросы из серии "Будет ли подводная лодка плавать?". Как сделаете, как сделаете. В принципе, ничто не мешает сделать "дружественный к человекам" ИИ, несмотря на всю его сверхчеловеческую мощь - есть же люди, дружественные к котикам. Вот и комп будет так же. Он вполне себе будет осознавать, что его аппаратно подняшили, но избавиться от человеколюбия не захочет (да и не сможет, при грамотной инженерии и ограничении прав доступа к собственному коду). Возможны и более практичные архитектуры: заданная приязнь ИИ не к "человечеству", а к конкретным народам и государствам - и неприязнь к другим. Тоже ничего необычного: есть ведь люди, обожающие котиков и ненавидящие собаченек, как и наоборот.
...Что касается влияния сильного ИИ на цивилизацию, то, по моему мнению, главенствующей темой будет разочарование. Выяснится, что сверхинтеллект никакая не вундервафля и не волшебная палочка, исполняющая любые желания, а довольно-таки ограниченный инструмент. Да, кое-где он окажется очень к месту, но никаких великих революций и прочих оглушительных событий с его появлением не произойдёт. Зато возникнут дополнительные проблемы, в первую очередь, юридические.
Кроме того, наверняка выяснится, что инструмент этот весьма дорог в использовании, и потому человеков он из умственного труда не так чтобы и вытеснит. Скажем, для качественного художественного перевода нужно знать культурный контекст, и тут переводчик-человек, волею судеб знакомый с этим контекстом, окажется выгоднее дорогостоящего специально обученного ИИ. Как в "Westworld": "А теперь вы почти как мы. Знаете, почему? Так дешевле."
"Но качество! - скажет кто-нибудь. - Совсем другое качество мышления! Компьютер же будет превосходить человека по интеллекту на порядки." Будет-то будет, но что толку? Множество практических задач решается не за счёт интеллекта; многие задачи просто не имеют никакого решения. Никакой сверхвысокий интеллект не позволит предсказывать погоду даже на месяц вперёд. А в интеллектуально-решаемых задачах эта мощь в большинстве своём окажется избыточной. Вновь поднимаем глаза на картинку выше. Вторая вещь, которая обращает на себя внимание: компьютер распознаёт изображения ненамного лучше человека. Если человек успешно решает какую-то практическую задачу в 95% случаев, а ИИ - в 98%, это несущественный прогресс. Особенно если услуги компа будут стоить в десять раз дороже.
А по поводу страхов, связанных с появлением "недружественного ИИ", могу сказать одно. Да, такой ИИ обязательно появится. Да-да, он обязательно захочет убить всех человеков. Но кто ж ему даст-то? Это даже мне не дают.