Искусственный интеллект как инструмент борьбы за сознание людей
Искусственный интеллект как инструмент борьбы за сознание людей
Широкое применение алгоритмов искусственного интеллекта (ИИ) на просторах «Всемирной паутины» стало объективным следствием ускорившейся в последние годы цифровизации общества, ведущей к стиранию национальных границ и размыванию этнокультурных особенностей человека в виртуальном пространстве. Огромные технологические возможности ИИ-систем органично встроились в ставшие уже традиционными цифровые сервисы (социальные сети, поисковики, агрегаторы новостей, маркетплейсы и пр.), существенно расширив инструментарий ИКТ по воздействию на сознание людей, влиянию на экономические процессы в масштабах отдельно взятых стран, регионов и даже континентов. Сегодня ИИ в глобальном цифровом пространстве - это, по сути, никем толком не регулируемый инструмент (причем чрезвычайно эффективный) геополитического и экономического влияния владельцев цифровых платформ и сервисов, задающих современные потребительские, общественно-политические и социокультурные тренды.
В ноябре 2020 г. в журнале Национальной академии наук США американские ученые опубликовали результаты своего исследования (Adversarial vulnerabilities of human decision-making) о возможностях ИИ манипулировать сознанием человека при принятии решений. Если кратко, то «натренированная» должным образом ИИ-система способна выявлять «уязвимости» в мыслительных процессах принятия решений и, воздействуя на них, подталкивать человека к определенному выбору (на данном этапе эффективность манипуляционных алгоритмов в лабораторных тестах составляет около 70%). Причем, что немаловажно, такой выбор будет восприниматься человеком как исключительно свой, базирующийся на принципе «свободной воли», а не навязанный со стороны хитрой машины.
К слову, в глобальных электронных СМИ и агрегаторах новостей подобные ИИ-системы используются для фильтрации, обработки и классификации информации (а с недавних пор избирательное «умное» цензурирование активно применяется и в отношении информационного контента в соцсетях), таргетированному доведению ее до конечного потребителя, как исходя из его личных предпочтений, так и с учетом редакционной политики цифровой платформы или издания. При этом в соцсетях основной фокус делается на оценке поведения и предпочтений пользователя в целях проактивного продвижения товаров и услуг «заказчиков», зачастую также обернутых в определенные социокультурные и политические установки. Большинство людей даже не догадывается, что информация из их аккаунтов используется с целью совершенствования алгоритмов ИИ по воздействию на их же поведенческую модель.
Взять хотя бы любимый (до момента блокировки) сервис бывшего президента США Д. Трампа - Twitter. В нем ИИ выполняет сразу две функции: а) подбирает наиболее интересные посты, основываясь на предыдущей активности пользователя (та самая проактивная функция); б) модерирует (эффективнее многих цифровых СМИ) недостоверный контент («фейкньюс») в русле критериев корпоративной политики, нацеленных якобы на поддержание высокой «чистоты», то есть качества информационного фона.
Однако применение ИИ в глобальном цифровом информационном пространстве не ограничивается только новостными ресурсами и соцсетями. Стоит также упомянуть самый распространенный в мире поисковик Google американской компании Alphabet. В последние годы корпорация использует технологии ИИ для автоматического осмысления сложных поисковых запросов, оптимизации поисковой выдачи, включая «деранкинг» нежелательных источников информации и отдельных публикаций (характерный пример - искусственное занижение с конца 2017 г. вероятности появления в поисковике Google ссылок на ресурсы медиахолдинга «РТ») и развития «умной» системы рекомендаций на принадлежащих компании ресурсах, в частности, YouTube. Такой подход Alphabet и многих других транснациональных корпораций ведет к стремительной фрагментации международного информационного пространства в угоду сугубо коммерческим интересам или интересам государственно-частного партнерства (как долгосрочным, так и ситуативным). Формирование универсальной международной нормативно-правовой регуляторики или хотя бы неких общепринятых «правил игры» становится попросту невозможным. В качестве иллюстрации - шесть из семи самых дорогих компаний мира являются американскими и китайскими ИКТ-гигантами, активно разрабатывающие и использующие алгоритмы ИИ в своих цифровых платформах и сервисах (Microsoft, Amazon, Alphabet, Apple, Facebook, Alibaba и Tencent). Согласно данным ведущей немецкой статистической компании Statista, их суммарная капитализация по итогам 2020 г. превысила 6,5 трлн долл. Для сравнения: бюджет России в том же году составил около 1,7 трлн долл. США.
Различные «умные» цифровые платформы, СМИ и соцсети, нанизанные на общую нить - Интернет - один из реальных примеров тотальной глобализации, проникающей в глубинную структуру человеческого общества без какого-либо серьезного противодействия, если не считать таковым пока еще сохраняющиеся, но постепенно стирающиеся этнокультурные и языковые барьеры. На первый взгляд, глобальное цифровое информпространство - это то «поле» или «песочница» (выражаясь техническим сленгом), в рамках которого всем активным участникам процесса - национальным правительствам, научно-экспертным кругам и крупным компаниям - вполне по силам выработать и апробировать единообразные подходы по внедрению и использованию ИИ-систем. Однако на практике ситуация проявляет себя с точностью до наоборот. Интернет и обитающая в нем «цифра» - это не только «территория свободы», но и место столкновения западноцентричной модели применения ИИ (в основе лежит принцип беспрепятственного продвижения технологических решений и ноухау на глобальном рынке с минимально возможным уровнем регулирования) с остальным миром, роль выразителя интересов которого активно примеряет на себя Китай.
При сохранении динамики актуальных трендов, через каких-нибудь 3-5 лет значение ИИ для массовых цифровых платформ и глобального информпространства в целом станет поистине колоссальным. Сложные алгоритмические системы превратятся в полноценный инструмент экономического и геополитического противоборства между технологически развитыми странами и аффилированного с ними крупного бизнеса. В условиях сохраняющихся полярных подходов в международном сообществе к нормативно-правовому регулированию современных ИКТ, разработчики и операторы ИИ-систем будут пользоваться этой неопределенностью и регуляторным вакуумом. Они станут еще активнее коммерциализировать свои сервисы и платформы в виртуальной среде, пытаясь с помощью передовых технологий «выгрызать» доли глобального рынка у прямых конкурентов. При этом в борьбе за пользователей такой «цифры» у последних целенаправленно будут формироваться новые критерии оценки и восприятия информации, подталкивающие их к определенному заранее смоделированному «заказчиком» алгоритму действий (выбору). Новая среда окажет также влияние на культурный код человека и его поведенческие паттерны, что в конечном счете может привести к определенному «выравниванию» социума в разных частях света (сторонники глобализации будут рады) или приведения его к некому общему знаменателю - единообразному цифровому шаблону потребителя. Как представляется, такой сценарий - это уравнение со множеством неизвестных, решение которого грозит непредсказуемым и, что немаловажно, весьма опасным результатом.
(с) М.Федоров, Ю.Цветков
https://russiancouncil.ru/analytics-and-comments/columns/cybercolumn/iskusstvennyy-intellekt-kak-instrument-borby-za-soznanie-lyudey/?sphrase_id=79736494 - цинк