Ловушка ИИ
Разговор с Сергеем Лукьяненко, писателем-фантастом, автором романа «Ночной дозор» и других известных произведений, состоялся в кулуарах международного симпозиума«Создавая будущее».
На форуме писатель говорил про влияние искусственного интеллекта на нашу жизнь, вызовы, которые стоят перед человечеством сегодня, и про то, как новое поколение интеллектуалов будет с ними справляться.
- Сергей Васильевич, здесь на форуме много говорят об искусственном интеллекте и опасностях, которые исходят от него. Что вы думаете об этом?
- Я считаю, что есть две главные опасности. Первая - ИИ - может быть зол по отношению к человечеству. А вторая - что может быть добр. И добрый искусственный интеллект, который будет за нас писать хорошие книги, снимать хорошее кино, замечательно управлять производством и все остальное делать вместо нас - это ловушка. Путь к тихому плавному вымиранию человечества. То есть мы можем оказаться в мире, где всё для человека, но при этом никакого смысла существования человека нет. И это очень сложная и коварная ловушка. Причем раньше в нее уже попадали элиты разных стран. Из истории мы знаем, например, как разрушались Римская и другие великие империи и страны, где элита теряла смысл существования, переставала понимать, для чего она вообще создана.
- Выходит, и «злой», и «добрый» ИИ опасен, замкнутый круг. А еще вы как-то сказали, что видите будущее, но не хотите пугать им людей. Означает ли это, что вы смотрите на будущее достаточно пессимистично?
- Скорее сказал бы, что смотрю на будущее с осторожностью. Я все же по натуре больше оптимист и думаю, что мы справимся со всеми вызовами. Но для этого надо, конечно, прикладывать определенные усилия. У нас очень много разных ловушек впереди. И помимо таких очевидных и банальных, как военные угрозы или угрозы эпидемий, в том числе искусственно созданных с помощью выведенных в лабораториях вирусов, впереди маячит ловушка интеллектуального и, быть может, даже товарного изобилия. Она связана с развитием нейросетей. А также ловушка биологического краха человечества, связанная с вмешательством в его геном.
- На форуме работает выставка блестящих исторических предсказаний ваших коллег, писателей-фантастов XX века. А сегодняшние фантасты: могут ли они радовать нас таким же уровнем визионерства?
- Предугадывание будущего часто происходит случайно. Моделей у будущего много, и в какой-то момент одна из них, наконец, попадает в точку. И тогда все радостно кричат: «Вот он, фантаст-провидец!» Но все же, если фантастикой заниматься по-хорошему и пытаться экстраполировать в будущее то, что видишь в сегодняшнем дне, то, конечно, возможны и определенные прицельные попадания.
- На форуме вы говорили о разнице поколений и роли информации. Поясните, пожалуйста.
- Мы сейчас живем в странное время: ведь каждое последующее поколение получало больший запас доступной информации и техническую возможность с ней работать. Поколения развивались в логике усложнения работы с информацией, и этот фактор являлся водоразделом между ними. А сейчас вся информация становится общедоступной. И где бы сегодня в мире мы ни находились, всегда остаемся на связи с информационными потоками. Поэтому сегодняшнее поколение столкнулось с кризисом переизбытка информации, когда становится все сложнее отыскать правильную и необходимую.
Много фейков, домыслов и теорий, которые воспринимаются как реальность. И вот уже нас не удивляют люди, которые верят в плоскую Землю. Каждому следующему поколению приходилось работать со все большим объемом информации, а нынешнему «Поколению Бета», то есть тем, кто появится на свет уже в эпоху искусственного интеллекта, на мой взгляд, придется иметь дело с ее верификацией. И это проблема, с которой до сих пор поколения не сталкивались.
Всегда была какая-то энциклопедическая база, фундаментальная наука и всем известные аксиомы. Сейчас аксиом нет. И молодой человек, вступающий в жизнь, плавает в бескрайнем океане информации, в котором нет никаких ориентиров.
- Кто-то из великих сказал, что фантасты умеют разговаривать с небом. Ведете ли вы этот разговор?
Конечно, разговор с небом остался. Но это, скорее, не разговор, то есть не диалог - мы его по большей части слушаем, - Сергей Лукьяненко.
_________________________________________________________
Поколение «Бета» - термин из т. н. «Теории поколений», который активно используют для обозначения генерации детей, которые будут рождены в 2025 году. Так как шаг между технологическими поколениями составляет примерно 15 лет, то речь идет, соответственно, о детях, которые родятся в 2025-2040 годах. Ожидается, что оно последует сразу же за поколением «Альфа», родившимся примерно с 2010-го по 2024 год.
Отличительная черта «Беты» в том, что поколение появятся на свет, когда искусственный интеллект станет повсеместной реальностью, и все ключевые технологии так или иначе будут с ним интегрированы. Таким образом, эти дети с первых своих дней будут жить в мире с высокоразвитыми ИИ, автоматизацией, беспилотными технологиями и сложными цифровыми системами, которые будут управлять многими процессами. Их детство и юность будут, вероятно, проходить в эпоху, когда представление об истине также будет формировать нейросеть, так как существенная часть онлайн-контента будет создаваться искусственным разумом либо с его помощью.