Интеллект: искусственный, естественный, противоестественный
Опыт аналитической реконструкции
Статья опубликована по итогам моего доклада 16 декабря 2023 года на восьмой научно-практической конференции Русской аналитической школы в сборнике «АНАЛИТИКА НА СЛУЖБЕ ОТЕЧЕСТВУ. Выпуск 8 / под ред. д.ф.н., профессора Ю.В. Курносова. Серия «Русская аналитическая школа». - М.: «РИТМ», 2023. - С. 23-26.
Сэм Альтман, директор компании OpenAI
Аннотация. На примере недавнего скандала с увольнением руководства компании OpenAI, разработчика популярной технологии ChapGPT, проведена аналитическая реконструкция ситуации в области искусственного интеллекта, выявлены скрытые причины и механизмы этого события. Высказана гипотеза о роли искусственного интеллекта в проекте будущего, реализуемого Западом.
* * *
Бог из машины
17 ноября в сфере ИТ произошло экстраординарное событие, которого не ожидала не только широкая международная общественность, но и экспертное сообщество. По итогам заседания совета директоров американской компании OpenAI, лидера в сфере разработки популярной технологии ChatGPT, был уволен сооснователь и генеральный директор Сэм Альтман (Sam Altman). Даже члены совета директоров, в который входит представитель Microsoft, были оповещены о необходимости принятия этого решения за несколько минут до начала заседания. Это свидетельствует о том, что указание пришло с самого верха управленческой пирамиды.
Не менее знаменательным стало восстановление Альтмана в должности через пять дней. Учитывая то, что в последний год ChatGPT является самым обсуждаемым в мире феноменом в области искусственного интеллекта (ИИ), подобное событие требует анализа и выявления его скрытых причин и последствий.
Прежде чем перейти к аналитической реконструкции, следует кратко охарактеризовать эту перспективную технологию. ChatGPT является чат-ботом с генеративным ИИ, способный отвечать на вопросы на естественных языках и порождать тексты по различным предметным областям. Разработчиком технологии считается OpenAI, американский стартап из Кремниевой Долины, запущенный в 2015 году Илоном Маском. В 2019 году с компанией начала сотрудничать корпорация Microsoft, вложившая в OpenAI в начале 2023 года 10 млрд. долларов. За время своего существования компания сильно продвинулась в обучении алгоритмов ИИ «человеческому» речевом поведению. Сейчас выпущена четвёртая версия чат-бота, интерпретирующая не только текст, но и изображения, создающая правдоподобные, логически непротиворечивые тексты и поддерживающая 26 различных языков. На сегодня ChatGPT является наиболее передовой моделью ИИ для генерации реалистичных текстов и графических изображений. (Здесь слово «передовой» следует понимать не в смысле аналога функций, присущих человеку, но как наиболее совершенную на текущий момент реализацию «слабого» ИИ, в терминах Эрика Шмидта, главы холдинга Alphabet и бывшего директора Google [1].)
Первый и очевидный вопрос, который приходит на ум в связи указанной ситуацией: почему вся эта история вышла наружу? Для этого проанализируем, что являлось движителем создателей технологии. Как неоднократно утверждалось Альтманом и его патронами, исходной задачей разработчиков ChatGPT было обучение чат-бота в ходе массового использования с целью развития этой системы для общения с людьми. В последние десятилетия подобная практика часто используется глобальными игроками. Так, на наших глазах Google и копирующий его стратегию Яндекс, за счёт взаимодействия с миллиардами пользователей, серьёзно нарастили возможности своих сервисов перевода.
Возникает второй вопрос: как видело будущее своей технологии руководство компании? Возглавив OpenAI в 2019 году, Сэм Альтман стал проводником политики открытости и массового использования ChatGPT. Следует отметить, что Альтман является плодом определённой субкультуры Кремниевой Долины, сформированной в течение последних двадцати лет. Ключевым элементом этой субкультуры является организация взаимодействия человека с окружающим миром с помощью онлайн-платформ. Конструирование и использование таких платформ предполагает максимальную открытость. Все заявления Альтмана пропитаны этой идеологией всеобщего блага и полной открытости. Год назад, 30 ноября 2022 года компания, с ведома своего крупнейшего инвестора Microsoft, открыла доступ к технологии для разработчиков и пользователей по всему миру. Этот шаг позволил нарастить мощность чат-бота за очень короткий срок. Незадолго до своей отставки Альтман выступил на международной конференции по ИИ, заявив, что создание «общего искусственного интеллекта» (Artificial General Intelligence, AGI) будет безопасным и принесёт пользу человечеству. В интервью Financial Times Альтман описал AGI «волшебный интеллект в небе», что многими было воспринято как претензия на создание «суперинтеллекта», или божественной сущности [2]. Именно это высказывание, вероятно, стало последней каплей и спровоцировало неожиданное для всех увольнение.
И здесь возникает третий вопрос: почему это вызвало противодействие и, самое главное, у кого? Реконструкция показывает, что позиция Альтмана и его сторонников вошло в противоречие с интересами тех, кто является истинными заказчиками данного проекта. Представляется, что эта группа управляет текущим процессом глобальной трансформации. Ей подконтрольны не только отдельные разработчики перспективных технологий вроде OpenAI, но и такие гиганты отрасли, как Microsoft, представитель которого в совете директоров стартапа тут же подчинился неожиданному решению.
Почему этот кейс важен? Потому что он свидетельствует о радикальной смене парадигмы. Технологии всегда были и остаются инструментом власти, однако в предыдущие десятилетия они были отданы в публичную сферу для тестирования на миллиардах пользователей и развития силами сообщества сотен миллионов разработчиков. Теперь эта вольница кончилась. Мир возвращается к открытому противостоянию: наиболее перспективные технологии следует для массового использования закрыть. Сэм Альтман, как Сергей Брин, Марк Цукерберг, Грета Тунберг и другие публичные фигуры, отобранные правящей группой для пропаганды определённых концепций, поверили в то, что они управляют миром. Однако истинные хозяева жёстко поставили верхушку OpenAI на место, продемонстрировав, кто на самом деле управляет глобальными процессами. Через пять дней после отставки Альтману разрешили вернуться на пост директора. Судя по всему, он принял все условия.
Каким же видится использование ИИ в социальной сфере? Насколько можно понять из открытых заявлений на эту тему, в социуме ИИ будет выполнять функцию некоторой промежуточной инстанции, обеспечивающей разделение человечества на две неравные группы. К первой будет принадлежать большинство населения, наделённое естественным, природосообразным интеллектом. Эти люди несут на себе традиционные ценности, возникшие в течение длительной эволюции человечества. Им противостоит другая группа, крайне малочисленная, которая продвигает полный разрыв с естественным ходом вещей и переход к контрприродным (contra natura) механизмам развития с целью преодоления естественного начала Человека. Такое преодоление подразумевает точку зрения, что естественное начало также является объектом управления. ИИ в социальной сфере мыслится той невидимой стеной, которая будет отделять одну группу от другой.
Бо́льшая часть людей будет общаться с органами власти, организациями здравоохранения, образования и другими общественными институциями посредством ИИ, который будет регулировать и подавлять интеллект естественный. С другой стороны, правящая группа оставит себе в качестве привилегии возможность общаться с живыми людьми: врачами, преподавателями, адвокатами, банкирами и др.
Не следует думать, что такая ситуация сложится в каком-то далёком, неопределённом будущем. Как верно заметил писатель-фантаст Уильям Гибсона, будущее уже наступило, просто он ещё неравномерно распределено. В сфере потребления часть концепции contra natura уже реализовано. Массовое производство продуктов питания основано на использовании химических добавок и суррогатов. Активно пропагандируется вред мяса и переход на белковую пищу, полученную из насекомых и растений, что является противоестественным для нормального человека. Одежда изготавливается из синтетических материалов под предлогом «заботы о природе». Натуральные ткани и меха объявляются «немодными» и при этом запредельно дороги. Далее последуют более значимые ограничения свободы под предлогом «борьбы за экологию». Так, в программном документе «Absolute Zero» (англ. «Абсолютный ноль»), выполненном по заказу английского правительства, заявлено, что к 2030 году в Великобритании останется три аэропорта, а к 2050 году - ни одного. Предполагается, что добраться до аэропортов на личных автомобилях будет нельзя, только на электропоездах [3].
* * *
Вынесенное в эпиграф выражение «Бог из машины», означающее счастливое спасение героев спектакля посредством появляющегося с неба существа, сейчас звучит более зловеще. В театре имеется в виду механизм, в обсуждаемом случае - компьютерная программа. ИИ приближает противоестественное. Он планируется правящей группой на роль «бога», которому предстоит решить задачу укрощения Человека, чтобы им было проще управлять.
Использованные материалы
Интернет-ссылки указаны в режиме доступа на 30 ноября 2023 года.
1. Предварительный Отчёт американской Комиссии по национальной безопасности в сфере искусственного интеллекта для Конгресса США. Ноябрь 2019 года. URL: https://www.nationaldefensemagazine.org/-/media/sites/magazine/03_linkedfiles/nscai-interim-report-for-congress.ashx?la=en)
2. Сэм Альтман намекает, что OpenAI строит Бога. 16 ноября 2023 года.
URL: https://www.securitylab.ru/news/543699.php
3. Absolute Zero. Delivering the UK’s climate change commitment with incremental changes to today’s technologies. First published 29th November, 2019. Cambridge University Press.
URL: https://www.repository.cam.ac.uk/items/33aaf353-b7de-45b0-9c40-5f62975b2127
Участники конференции Русской аналитической школы 16 декабря 2023 года
Участников конференции приветствует председатель наблюдательного совета РАШ, заместитель председателя Комитета по науке, образованию и культуре Совета Федерации Людмила Скаковская. Справа - организатор РАШ проф. Юрий Курносов
Слушаю доклад Александра Артамонова
Сборники конференций РАШ разных лет. Я публикую свои доклады на мероприятиях РАШ начиная с 2019 года.
Участники конференции РАШ 16 декабря 2023 года в конференц-зале Управления делами президента РФ "Президент- Сервис" на Смоленской.