Россия как зона охоты за мозгами
Доклад на заседании Русской аналитической школы 25 февраля 2020 года.
Начало
Доклад посвящен разбору Предварительного Отчёта американской Комиссии по национальной безопасности в сфере искусственного интеллекта для Конгресса США (далее «Отчёт», «документ» - https://www.nationaldefensemagazine.org/-/media/sites/magazine/03_linkedfiles/nscai-interim-report-for-congress.ashx?la=en) [1 - ссылки в квадратных скобках указаны в окончании доклада https://upravleniye.livejournal.com/17970.html]. Комиссию возглавляет Эрик Шмидт, бывший генеральный директор компании «Google», ныне технический советник компании «Alphabet» [2].
Целью анализа Отчёта стало выявление особенностей глобального соперничества США и Китая в сфере ИИ, а также определение авторами Отчёта места России в этом конфликте. Выявленные тенденции позволяют говорить о разворачивающейся в мире гуманитарной войне нового типа - войне за талантливых людей.
Доклад состоит из вступления, шести разделов и заключения. Мои тезисы подкреплены цитатами из Отчёта в собственном переводе и снабжены ссылкой на соответствующую страницу документа в фигурных скобках.
Вступление
В конце декабря 2019 года была опубликована статья Е.Лариной и В.Овчинского «Трамп с искусственным интеллектом» [3] https://izborsk-club.ru/18469. В статье обсуждался ряд стратегических документов правительства и президента США в сфере искусственного интеллекта. Авторы статьи известны своими аналитическими исследованиями в сфере информационных технологий и информационной безопасности.
Ознакомившись с исходным текстом Отчёта, я поняла, что его контекст гораздо шире, чем обсуждение собственно искусственного интеллекта и использования алгоритмов для ведения кибервойн и укрепления национальной безопасности США. Мне показалось важным сделать анализ Отчёта с политической и геополитической точки зрения; выяснить, каким образом авторы Отчёта представляют будущее Америки, место своей страны и тех, кого они называют «стратегическими противниками» (strategic competitors), в новом противостоянии с использованием искусственного интеллекта.
В обращении председателя и заместителя председателя Комиссии в начале документа сказано, что развитие искусственного интеллекта является частью политической повестки - соревнования с Китаем, а в более широком контексте - частью глобального соперничества. Роль Америки как глобального инноватора находится под угрозой {c.1}. В Отчёте сказано: «Мы находимся в ситуации стратегического соревнования. Его центром станет искусственный интеллект. Будущее нашей безопасности и экономики поставлено на карту» {с.6}. А США должны быть лидером; иное не мыслится. Здесь проявляется доведенная до предела пуританская картина мира, в которой борьба Добра со Злом носит непримиримый характер, и Добро (Америка) должно победить. Не-победа даже не рассматривается.
Из Отчёта становится ясно, что речь идет не о технологиях как таковых и даже не о войне алгоритмов, но о совершенно ином предмете - мобилизационной парадигме, в результате которой США должны обеспечить себе бескомпромиссное военное и технологическое лидерство. При этом ключевым фактором успеха является привлечение в страну талантливых людей со всего мира.
1. Актуальное понятие «искусственного интеллекта»
Отчёт призван проинформировать Конгресс США о положении дел в области разработки и использования технологий искусственного интеллекта (далее «ИИ») с целью укрепления национальной безопасности и сформировать перечень мер для улучшения ситуации.
В связи с тем, что уровень технической грамотности конгрессменов не очень высок, авторы Отчёта уделили внимание точному определению используемого ими понятия ИИ и описанию технологий ИИ. Из этого определения следует, что ИИ - это совокупность, или пучок, уже существующих технологий (constellation oftechnologies), позволяющих на основе алгоритмов работать с большими объемами данных на предмет выделения закономерностей {с.8}. Эти технологии (определяемые авторами как «узкий или ограниченный ИИ» / narrow AI), уже развиты; сейчас они совершенствуются {с.7}. Авторы подчеркивают, что речь идет не о сравнимом с человеком интеллекте, но о вполне конкретных технических решениях и приложениях известных технологий алгоритмической обработки и организации данных. В документе сделан упор на важности использования уже имеющихся технологий.
В Отчёте прямо заявлено, что использование ИИ приведет к появлению алгоритмического оружия, к соревнованию алгоритмов на скорость и точность обработки данных. Прогнозируется, что это соревнование отодвинет на задний план другие вооружения. Тот, кто быстрее и точнее среагирует на изменение ситуации, воспользуется более полной информацией, тот и будет в выигрыше {с.10, 11, 15}. Сравним это утверждение с профессиональным командным спортом (футболом, хоккеем), с практикой восточных единоборств. Настоящий профессионал «считывает» план соперника ещё до того, как тот начинает движение, - и предпринимает контрмеры. Такой принцип ведения войн стар как мир и составляет основу военных стратегий. Технологии ИИ могут сыграть ключевую роль в использовании этого принципа в современных конфликтах.
2. Китай как главная угроза американскому доминированию
в области высоких технологий и в киберпространстве
В области ИИ Китай рассматривается как один из наиболее серьезных стратегических противников США. «Китай, наш самый серьезный конкурент, заявил о своем намерении стать к 2030 году глобальным лидером в ИИ в рамках более широкой стратегии, бросающей вызов американскому военному и экономическому [лидирующему] положению в Азии и за ее пределами» {c.6}.
Авторы Отчёта подробно останавливаются на причинах того, почему именно Китай представляет для США реальную угрозу. «Авторитарный режим» Китая успешно справляется с реализацией национальных программ развития ИИ. Хотя Китай по уровню развития ИИ отстаёт от Штатов, отрыв в технологиях некритичный. Но не только это представляет опасность. Америка переживает в отношении китайской диаспоры то, что авторы называют «вызовом запутанных отношений» (entanglement challenge) {с.15}. За последние десятилетия тысячи китайских ученых приезжали работать в университеты и лаборатории США; был налажен обмен студентами и аспирантами; венчурные фонды с обеих сторон инвестировали в технологические стартапы. США использовали человеческий капитал Китая в своих интересах. Экономика и инновационная экосистема обеих стран очень тесно связаны, и разделить их будет непросто.
Рамки Отчёта как публичного документа не позволяют открыто сказать, почему китайское проникновение в американскую экономику и технологическую сферу представляет проблему. В отличие от американцев, исповедующих принцип «каждый за себя», китайцы развили в себе двойную идентичность. Китайцы могут принять гражданство другого государства и его обычаи, однако, независимо от места жительства, китаец всегда осознает себя частью целого. И это целое - Китай. Китайцы несут на себе иную философию и этику - конфуцианскую. Они ощущают себя подданными великого государства. Большую роль в сплочении разных народностей как нации хань сыграл сконструированный миф о пяти тысячах лет китайской истории, и теперь эта псевдоэтническая однородность позволяет решать задачи управления столь огромным государством и достигать амбициозных целей.
Не стоит забывать о том, что в противостоянии Америки и Китая проявляется вечный конфликт островного и континентального государств. Военная доктрина США ещё с XIX века предполагает неуязвимость морской державы. Суть этой доктрины лучше всего может быть описана в терминах «пиратской этики»: мы делаем вылазку, наносим удар, но сами не терпим убытков и потерь. Американская доктрина до сих пор актуальна для традиционных, локальных и даже гибридных войн. США - конгломерат конкурирующих структур, гибких, адаптивных, но неэффективных в период войны, требующей единого вектора приложения усилий. А война нового типа не просто на пороге, она уже вовсю идёт.
В марте 2018 году Китай по сути вернулся к форме империи (в Конституции было снято ограничение на занятие высшего государственного поста в течение двух сроков) [4]. За последние десятилетия в Китае был создан мощный военно-промышленно-учебно-научный комплекс, в котором трудятся и те, кто проживают в Китае, и члены многомиллионной китайской диаспоры в США. Приверженность конфуцианской этике в форме служения императору имеет следствием и оправдание незаконных действий в отношении «чужих», например, кражу интеллектуальной собственности и технических разработок у представителей других государств. Мобилизация не просто объявлена - она является стержнем китайской политики и экономики. И весь этот государственный, «авторитарный» комплекс работает слаженно на задачу достижения превосходства в сфере ИИ к 2030 году.
С целью очернить противника, авторы Отчёта не скупятся на подробности. Так, Китай использует ИИ для построения «мрачного полицейского государства и стремится создать систему социального кредита для помещения людей в “чёрные списки”, основанные на данных о том, с кем они общаются, куда путешествуют, что покупают и как используют мобильные телефоны» {с.14-15}. Несмотря на неодобрительную риторику, факты свидетельствуют о том, что имперская идея служения государству и мобилизационная экономика позволяют китайскому руководству эффективно действовать в ситуации военного конфликта.
С начала 2020 года мы, по-видимому, являемся свидетелями первого в истории тактического применения биологического оружия в Китае [5]. http://zavtra.ru/blogs/dvadtcatie_gonka_gennogo_oruzhiya Бывший глава российского бюро Интерпола, генерал-майор милиции В.Овчинский опубликовал 17 февраля с.г. статью, в которой проанализировал готовность Китая к борьбе с эпидемией коронавируса с помощью технологий ИИ. «Эпидемия нового коронавируса не застигла китайскую медицину врасплох. Последние годы в КНР активно ведутся работы по внедрению в практику органов здравоохранения, лечебных и диагностических учреждений ИИ, робототехники и телемедицины... Это вызвано двумя факторами. Во-первых, Китай включён в гонку по внедрению ИИ в основные сферы жизнедеятельности. Во-вторых, в стране не устранена нехватка медицинских работников... Поэтому к началу 2020 года в Китае свыше 130 компаний были задействованы во внедрении ИИ. Такие крупнейшие компании, как Alibaba и Tencent, создали свои научные центры по разработке и применению диагностического оборудования на базе ИИ», - указывает Овчинский [6]. Из статьи следует, что Китай готов даже к такой гибридной войне, как атака с помощью биологического оружия, за счет сопряжения усилий госаппарата и коммерческих компаний с использованием ИИ.
Можно констатировать, что в мире сейчас имеются две сверхдержавы - США и Китай, гегемон и субгегемон, оспаривающий американское право на первенство. Они представляют две модели: «открытую», «демократическую» и «тоталитарную», «автократическую».
Авторы Отчёта задаются вопросом: как изменить американскую модель, не потеряв имеющихся преимуществ, и при этом обеспечить конкурентоспособность в отношении китайской модели?
3. Открытость общества как фактор технологического развития:
преимущества и риски
Американский военно-промышленно-финансово-разведывательный комплекс базируется на культивировании децентрализованной инновационной экосистемы, собирающей талантливых людей со всего мира. Такая открытость напоминает пылесос: работает только в одном направлении. Цель - собрать «таланты», развить их и направить в военную сферу. Данная установка обусловлена историческими реалиями американской нации как очень молодой, сформированной в XVIII-XIX веках европейским «третьим», или торговым, сословием, населившим территорию нынешних США. С этой точки зрения стратегия дёшево купить хороший товар выглядит логично. Американская инновационная экосистема получила огромный импульс во время и после Второй мировой войны, когда пришлось ввести мобилизационный режим в экономике.
Можно проследить, как в период после окончания Второй мировой войны менялась степень открытости американского общества в зависимости от геополитических интересов США. Начиная с конца 1930-х годов и далее во время войны был реализован примат интересов государства во всех сферах. В 1950-х годах военное, политическое и экономическое соревнование тогдашних двух лидеров, СССР и США, победителей в «горячей войне», достигло своего апогея. Доминирование военно-промышленного комплекса и связанное с этим усиление реального общественного влияния «технократов», повышение уровня массового образования вызвало ответную реакцию как на Западе, так и в СССР. В 1960-х годах «технократическая» модель была демонтирована в обеих системах [7].
С начала 1970-х годов в США активно внедряется модель «открытого общества». Продвигая в мировом общественном мнении преимущества «демократии», Америка преследовала цели захвата мировых товарных рынков через географическую экспансию в форме транснациональных корпораций в 1970-80-х (см. например [8]), финансовую «демократизацию» через устранение запретов на спекулятивные операции на традиционных финансовых рынках и развитие вторичных инвестиционных инструментов в 1980-2000-х (см. например [9,10]), создание эффективного «пылесоса» научно-технических исследований, разработок, технологий и их носителей, преимущественно из бывшего СССР, начиная с 1990-х до наших дней [11, 12].
В настоящее время открытость уже невыгодна Штатам, так как китайцы, используя описанную выше идеологию «двойной идентичности», успешно воспользовались американской системой образования и моделью организации научных исследований и вывезли в Китай американские высокие технологии. В статье, размещенной на официальном сайте CNN Business 23 марта 2018 года, приводятся следующие данные из доклада Комиссии по воровству (theft) американской интеллектуальной собственности за 2017 год: «Воровство китайцами американской ИС составляет в текущих ценах от 225 до 600 млрд. долларов ежегодно» [13].
Перед авторами Отчёта стоит непростая задача: дать Конгрессу набор взвешенных рекомендаций, как пройти между Сциллой открытости и Харибдой тотальной мобилизации. Можно сформулировать эту задачу более практично: как воровать самим и не быть обворованными другими. Здесь у американцев возникают серьезные проблемы, так как обе общественные модели, открытая и мобилизационная, исторически обусловлены.
Россия в Отчёте упоминается всего несколько раз в перечне «стратегических конкурентов». В частности, в разделе «Какие угрозы несет ИИ?» первым пунктом идет «размывание американского военного превосходства» {с.11}. Стратегические конкуренты под руководством Китая и России могут использовать автономные системы на основе ИИ с целью «подорвать американское превосходство и традиционные средства сдерживания» {там же}. Использование ИИ в России связывается только с его применением в военных целях. «Россия уже применила на поле боя вооруженные роботизированные машины с элементами автономного управления для поддержки жестокого диктатора без должной оглядки на этические соображения» {с. 15, курсив мой}. Слова «дрон», «беспилотник», «беспилотный автомобиль» не упоминаются, так как тогда придётся признать, что США уже в течение как минимум десяти лет применяют самоуправляемые транспортные наземные и летательные аппараты с элементами ИИ.
Подобная риторика напоминает известную ситуацию «Держи вора!», когда воришки на рынках кричат и показывают на невиновных покупателей, отвлекая внимание от факта действительной кражи. В сегодняшней ситуации требуется обвинить своих главных соперников в том, что они вводят в своей стране «авторитарный режим» или поддерживают «диктаторов». Тогда неминуемо Америке придется реагировать на это и поступаться мирными «демократическими» принципами. Этот приём не нов: вспомним, что многие практики «мягкого» регулирования (манипулирования общественным мнением) начинались именно в США. Это традиционная провокация: «нас вынудили к ответному действию» - применялся для вступления США в мировые войны [см. например 14].
Для этих провокаций использовалась одна и та же схема, и применялась она не на уровне военных, но англо-американским истеблишментом. Так, в ходе Первой мировой войны правительствами Великобритании и США были проигнорированы неоднократные предупреждения немецкого командования о небезопасности пассажирских перевозок вблизи Британских островов. Вследствие подрыва немецкой торпедой и последующего затопления пассажирского судна «Лузитания» 7 мая 2015 года погибло почти 1200 чел., многие из которых были американцами. Катастрофа спровоцировала всплеск патриотизма в Америке и облегчение вступления Штатов в войну. Такой же провокационный характер носила атака на Перл-Харбор 7 декабря 1941 года, когда командование этой американской военной базы не получило вовремя секретную депешу о манёврах Японии. Так называемый «тонкинский инцидент» с неустановленным нападением северо-вьетнамских военных катеров на эсминцы ВМФ США в начале августа 1964 года стал отправной точкой для развязывания войны во Вьетнаме.
По мнению авторов Отчёта, «глобальное лидерство даёт нашим агентствам в сфере обороны и безопасности доступ к лучшим технологиям… Однако новые технологии всегда применяются для удержания власти. В свете выбора наших стратегических конкурентов Соединенные Штаты должны также изучить ИИ с военной точки зрения, включая разработку концепций автономных операций с использованием ИИ» {c.15}. Отсюда Комиссия делает вывод о необходимости изучения ИИ для применения в военных целях.
В настоящий момент мобилизационный режим в Китае демонстрирует свою эффективность, чего нельзя сказать об американском демократическом, фрагментированном обществе, в котором сложно внедрить ИИ для военного использования. Именно поэтому значительное внимание в Отчёте уделено задачам цифровизации американского госаппарата и обучения госслужащих основам ИИ.
Окончание https://upravleniye.livejournal.com/17970.html