Искусственный интеллект как экспертная система для лиц, принимающих решения
Тезисы доклада на Конференции РАШ 15 декабря 2024 года
You can watch this video on www.livejournal.com
Видеозапись доклада см. с 01:26 до 01:43
За последние несколько лет быстрое развитие технологии искусственного интеллекта (далее ИИ) поставило вопрос о границах его применения. Технологии ИИ уже сейчас позволяют использовать практически весь объём информации, накопленный человечеством за период нескольких тысячелетий его официальной истории. Как я показала в своём докладе на прошлогодней конференции РАШ «Интеллект: искусственный, естественный, противоестественный» [1], в социальной сфере ИИ планируется на роль глобального регулятора важнейших сфер человеческой жизни и деятельности: образования, здравоохранения, юриспруденции, медиа. На наших глазах реализуется проект трансформации, предусматривающий упрощение и машинную алгоритмизацию человеческих функций для широких масс населения. В этом смысле я назвала такое развитие технологии противоестественным.
В этом докладе я собираюсь обозначить проблему, которая выявилась в ходе применения ИИ для принятия управленческих решений на высшем уровне, в частности при использовании экспертных систем. Я понимаю экспертную систему как компьютерную систему, способную частично заменить специалиста-эксперта в разрешении проблемной ситуации [2]. Здесь очень важно слово «частично». Речь не идёт о том, чтобы передать все экспертные функции машине.
Следует ожидать, что в ближайшие годы применение ИИ в машинном прогнозировании будет расширяться. Во весь рост встала проблема использования получаемых результатов для принятия решений высшими руководителями. На сегодня готовой модели коллаборации человеческого и машинного интеллекта не существует. По-прежнему в экспертных системах используются малые выборки, построенные на классических принципах прикладной математики и статистики. В мае этого года своим наблюдением поделился председатель совета директоров одного из ростовских банков: «Требование большого объема независимых данных заменяется на априорное формирование списка возможных состояний области принимаемых решений, а данные малой выборки после обработки эвристическими и экспертными методами используют для проверки гипотез о принадлежности новой реальности к той или иной группе ситуаций. Так сходятся результаты классического и прикладного ИИ» [3].
Сохранится ли такая ситуация в будущем?
Для ответа на этот вопрос рассмотрим, как развиваются экспертные системы на основе ИИ в военной сфере при планировании стратегических операций. В открытых источниках заслуживающей доверия информации на эту тему очень мало. С начала СВО увеличилось число иностранных публикаций о тестировании отдельных технологий и систем для решения частных задач. Западным разработчикам технологий ИИ был обеспечен доступ к оперативным данным. Так, в первые месяцы СВО украинские власти получили облачные и кибер-сервисы от корпораций Microsoft, Amazon и Google, терминалы Starlink, систему распознавания от Clearview AI. В июне 2022 года в Киев приехал Алекс Карп, управляющий компанией Palantir, созданной им вместе с известным технологическим предпринимателем Питером Тилем для разработки моделей предсказательной аналитики на основе Больших Данных и ИИ. Считается, что именно модели электоральных ожиданий от Palantir обеспечили победу Дональду Трампу на президентских выборах 2016 года. Компания также активно сотрудничает с военными и является ключевым разработчиком системы Maven для Министерства обороны США.
Проект Maven (англ. знаток, эксперт) был запущен в 2017 году. Его официальное наименование: «Межфункциональная группа по алгоритмической войне». Первоначально группа занималась разработкой инструментов обработки изображений, полученных спецназом США в ходе боевых действий в Сомали. Разработанные алгоритмы компьютерного зрения тестируются на данных, полученных из горячих точек по всему миру: Йемена, Ирака, Сирии, Палестины и, конечно, с Украины. Сейчас платформа Maven существенно расширена. Она может обрабатывать не только видеоизображения, но и данные, полученные от радиолокационных систем и инфракрасных датчиков; может работать с данными геолокации и сопоставлять их с сообщениями в социальных сетях. Разработчики пытаются обучить систему обрабатывать любые виды информации, которую можно получить в условиях боевых действий [4]. Кроме сбора и обработки данных в режиме реального времени, в систему Maven были введён инструмент выдачи целеуказаний для подразделений ВСУ. «Работает эта система так: искусственный интеллект собирает данные с тысяч спутников, самолетов-разведчиков и разведывательных БПЛА, потоковых видео и фотографий и даже просто сообщений с места событий, оперативно анализирует их и выдает требуемую информацию о местонахождении и перемещениях российских войск, вплоть до места стрельбы отдельных орудий» [5].
В статье американского издания Time от 8 февраля этого года прямо говорится о том, что высокотехнологичные корпорации превратили Украину в военную лабораторию по тестированию ИИ [6]. Следует однако заметить, что несмотря на существенное продвижение в получении и моментальной обработке больших массивов данных с помощью различных высокотехнологичных инструментов, задача формирования адекватной стратегии НАТО и ВСУ решена не была. Одним из показательных примеров является использование экспертной системы, предоставленной корпорацией Microsoft, в ходе разработки стратегии контрнаступления Украины в июне-ноябре 2023 года. Активная подготовка к этой стратегической операции велась с февраля прошлого года на базе создаваемого в Висбадене (Германия) центра НАТО. В ней принял участие тогдашний председатель Комитета начальников штабов Вооруженных сил США Марк Милли. Он назвал ИИ самой мощной из всех быстро развивающихся военных технологий и сделал громкое заявление: «Возможность принимать решения быстрее и точнее является значительным преимуществом в ведении войны. Искусственный интеллект и квантовые вычисления дадут преимущества стране, которая преуспеет в их военном применении» [7]. Однако использование только ИИ для управления подразделениями ВСУ в боевых действиях оказалось преждевременным. Считается, что одной из причин неудачного «контрнаступа» стали некорректные сценарии, предложенные системой. 30 сентября 2023 года Милли был вынужден уйти в отставку.
Судя по ряду косвенных данных, такая же неудача постигла западных военных стратегов, планировавших Курскую операцию в августе этого года с опорой на рекомендации ИИ [3;8;9]. Несмотря на ряд тактических неудач на поле боя, использование технологий ИИ позволило существенно улучшить качество предсказательных моделей. По данным американского аналитического агентства Dresner, в 2024 году упомянутая выше компания Palantir заняла первое место в категории «ИИ, науки о данных и машинное обучение» [10].
В качестве вывода хотела бы подчеркнуть, что принятие ключевых решений, затрагивающих судьбы миллионов и миллиардов людей, ещё долго будет прерогативой человека. Тем не менее, экспертные системы за последние годы претерпели не только количественное, но и качественное изменение: они оперируют Большими Данными, быстро обучаются и зачастую предлагают необычные сценарии. Как относиться к таким рекомендациям машины? По каким критериям оценивать принципиальную пригодность и применимость таких сценариев? Как государственным руководителям использовать заключения экспертных систем, сделанные на основе технологий ИИ? Считаю, что изучение и обсуждение этих и других связанных вопросов может стать интересным направлением исследований РАШ в 2025 году.
Хотела бы завершить свой доклад словами президента Путина на пленарной сессии дискуссионного клуба «Валдай» 7 ноября 2024 года: «В условиях конкурентной борьбы неизбежно и развитие искусственного интеллекта. И здесь мы, конечно, можем быть в числе лидеров. <…> Платформы чаще всего формируются за рубежом, они формируют мировоззрение. Мы должны понимать это и развивать свой суверенный искусственный интеллект» [11].
Использованные материалы
(Интернет-ссылки указаны в режиме доступа на 5 декабря 2024 года)
1. Голубкова Л.Г. Интеллект: искусственный, естественный, противоестественный. Опыт аналитической реконструкции. // Аналитика на службе Отечеству. Выпуск 9 / под ред. д.ф.н. профессора Ю.В. Курносова. Серия «Русская аналитическая школа». - М.: «РИТМ», 2024. - С. 33-36.
2. Экспертные системы // Научный словарь-справочник от «Автор 24» по техническим и гуманитарным дисциплинам. URL: https://spravochnick.ru/informacionnye_tehnologii/setevye_informacionnye_sistemy/ekspertnye_sistemy/#ponyatie-ekspertnyh-sistem
3. Высоков В. Искусственный интеллект для руководителя // ПАО КБ «Центр-Инвест». 25.03.2024. URL: https://www.centrinvest.ru/about/mass-media/iskusstvennyi-intellekt-dlia-rukovoditelia
4. Юрченко А. Курская область стала полигоном Запада для будущей войны с Россией? // ИА Красная Весна. 2 декабря 2024. URL: https://rossaprimavera.ru/article/68a3fdb0
5. Как американский искусственный интеллект помогает ВСУ против России // Сетевое издание «Репортёр». 10 января 2023. URL: https://topcor.ru/30905-kak-amerikanskij-iskusstvennyj-intellekt-pomogaet-vsu-protiv-rossii.html
6. Bergengruen V. How Tech Giants Turned Ukraine Into an AI War Lab // Time. 8 February 2024. URL: https://time.com/6691662/ai-ukraine-war-palantir
7. Среда С. ВСУ на поле боя стали подчиняться искусственному интеллекту из США // Российская газета. 07.11.2024. URL: https://rg.ru/2024/11/07/roboty-idut.html
8. Kursk Offensive Unveiled: Ukraine’s Strategic Planning and Cyber-Kinetic Convergence // Cyble.com. August 29, 2024. URL: https://cyble.com/blog/kursk-offensive-unveiled-ukraines-strategic-planning-and-cyber-kinetic-convergence
9. Военный аналитик Леонков: операцию ВСУ в Курской области спланировали США // Радио Спутник. 07.08.2024. URL: https://radiosputnik.ru/20240807/vsu-1964636362.html
10. Dresner Advisory Published 2024 ModelOps, AI, Data Science, and Machine Learning Research // Dresner Advisory Services. Sep 05, 2024. URL: https://www.prnewswire.com/news-releases/dresner-advisory-publishes-2024-modelops-ai-data-science-and-machine-learning-research-302238325.html
11. Путин В.В. Выступление на пленарной сессии XXI ежегодного заседания Международного дискуссионного клуба «Валдай» // Сайт Президента России. 7 ноября 2024 года. URL: http://www.kremlin.ru/events/president/transcripts/statements/75521