Списки смерти: giovanni1313

giovanni1313

Списки смерти

May 07, 2024 18:47

Технологии уже много веков влияют на политическое устройство общества. Но лишь недавно это точка зрения вошла в мэйнстрим.

Долгое время политические философы считали ниже своего достоинства включать технологический фактор в свои рассуждения о государственном строе. Исключения - Алексис де Токвиль и пара бородатых классиков, Маркс и Энгельс - так и оставались исключениями, не сумевшими изменить господствующее вокруг невежество.

Перелом наметился только в 1960-ых, когда вышла «Галактика Гутенберга» и еще несколько влиятельных книг со схожими идеями. «Технологические» взгляды развивались, но вплоть до 1990-ых побороть консенсус не могли. Самым влиятельным политическим трудом 1990-ых стал «Конец истории» Фрэнсиса Фукуямы - буквально отменяющий всякую возможность политической техноэволюции.

Однако через тридцать лет мы можем с уверенностью сказать, что история не кончилась. Наоборот, скорее она только начинается. Маятник взглядов на технологии, пожалуй, уже пошел в обратную сторону. Технологии не просто становятся фокусом политики - политика постепенно превращается в инструмент, поставленный на службу технологий.

Самопровозглашенный идеал политического устройства, Соединенные Штаты, уже именуют себя «техно-демократией» и призывают коллег сплотиться против «техно-автократий». Немодная концепция «гражданского общества» довольно успешно вытесняется термином «пользователи цифровых платформ». Обсуждение избирательных компаний концентрируется на автоматизированных средствах манипуляции политическими взглядами. Ключевым фактором грядущего политического ландшафта уже считается не демография, не имидж кандидатов и не предвыборные экономические обещания. А искусственный интеллект.

И если отличия демократии от «техно-демократии» пока имеют скорее риторический характер, то для еще одного феномена быстрое развитие технологий означало гигантские перемены. Речь пойдет о системном политическом терроре.

Системный политический террор - такое же старое явление, как и само государство. В стародавние времена физическое уничтожение элит было практически непременным условием смены этих самых элит. Ну а заодно с элитами под каток попадали политически аффилированные с ними национальности, религиозные группы, классы и так далее.

Мучения семерых Маккавеев. Антонио Чизери, 1863 г.

Современники прекрасно понимали, что это не очень хороший порядок вещей. Но противопоставить старому системному террору можно было только другую, устойчивую систему. Она начала обретать контуры в эпоху Просвещения. Ближе к нашему времени ее станут называть либеральной демократией. Одним из главных ее принципов было всякое исключение насилия из политических процессов. Им противопоставлялись договорные отношения (фр. "contrat social", социальный договор) и объединение, общность всех граждан (фр. "volonté générale", общая воля).
Несмотря на очевидный идеализм, новая система зарекомендовала себя неплохо. Но она так и не стала универсальной для всего мира. Политические элиты многих стран были готовы мириться с тем, что жернова политического террора могут в любой момент повернуться против них самих - лишь бы не отдавать обществу ни толики своей авторитарной власти. Более того, эти элиты исходили из представлений, что, чем масштабней террор - тем прочнее их положение.

Поэтому в середине просвещенного 20 века мы увидели одни из самых массовых и кровавых эпизодов системного политического террора. Достаточно вспомнить сталинские репрессии и режим красных кхмеров в Камбодже.

Казалось бы, новые масштабы террора требуют и новых технологических решений. Но камбоджийский опыт показывает, что это неверная предпосылка. Элитам удалось загнать страну буквально в каменный век, и всё это не слишком мешало продолжающемуся уничтожению населения. Впрочем, камбоджийский опыт показывает, что неверна была и предпосылка о пользе максимальной жестокости для прочности режима.

Что касается стран, выбравших демократический путь, то здесь, с исключением насилия из арсенала политических инструментов, необходимости в технологическом «апгрейде» политического террора практически не было. Особенно если мы говорим о системном терроре.

Одной из немногих сфер, куда было вытолкнуто политическое насилие, стали внешние войны. Действительно, с жителями других стран никто ни о чем не договаривался, и в единую общность они не попадают. Стало быть, никакие демократические привилегии на них не распространяется. Да и вообще, как заметил один современный политик, это не люди, а «человеческие животные». А раз Жан-Жак Руссо ничего про «человеческих животных» не писал - значит, с ними можно делать всё, что заблагорассудится.

Впрочем, «тлетворное» влияние гуманизма не обошло стороной и эту сторону политики. Как и многие другие аспекты жизни, войну стремились институциализировать, т. е. создать систему правил для нее. Одной из высших точек этой институализации стала серия Женевских военных конвенций, регулирующих поведение воюющих сторон. Последняя из них была принята в 1949.

Увы, во все времена «этичные» стандарты ведения войны одновременно были и двойными стандартами. Правил придерживались в войне с врагом, которого считали равным себе по статусу. Чем ниже был воспринимаемый статус врага - тем меньше с ним церемонились. Потому что, во-первых, война и этика - сами по себе трудносовместимые понятия. И, во-вторых, стремление к социальной иерархии, где у сильных есть права, а у слабых их нет, очень глубоко заложено в человеческую природу.

Тем не менее, корпус военного права был относительно четким ориентиром, который позволил провести зыбкие границы в кровавой каше межгосударственных конфликтов: это «правильная» война, а это война «нежелательная». И то, и то было политически мотивированным насилием - но именно внутри второй категории постепенно обособились явления, которые стали обозначаться термином «террор». Объединившим под одним зонтиком насилие внутри границ государства и за его пределами.

Термин почти сразу получил крайне негативную, почти оскорбительную окраску в публичном пространстве. Что касается войны, то ей свод правил придавал ауру легитимности. Да, это насилие - но это организованное насилие, касающееся определенных организованных групп людей. Террор же олицетворял беззаконие. Террор ставил целью максимальную жестокость. Лучше всего террор работал, когда он был лишен всяких остатков человечности.

Такая отталкивающая природа не способствовала большой популярности политического террора даже в международных конфликтах. Да, эпизоды случались - но случаи, когда он принимал действительно системный характер, были скорее исключениями, тем более для развитых стран.

Но исключения всё-таки имели место. И одно из таких исключений станет центральной частью нашего рассказа.

Однако начнем мы с вопроса, зачем вообще политическому террору технологии.

Ключевой момент - системность террора. Системность террора (а далеко не весь террор является системным) требует организации достаточно большой группы людей. Как правило, системный террор организовывало государство. Но в принципе достаточно любой крупной политической структуры.

Для организации системного террора насилие необходимо масштабировать. Насилие должно затронуть тысячи, десятки тысяч, миллионы людей. И это далеко не такой простой процесс, как может поначалу показаться. Очевидное беззаконие и бесчеловечность террора не очень хорошо уживаются с системностью. Каждый, кого пытаются сделать «винтиком» машины террора, потенциально является ее «слабым звеном».

Но нам не нужно увеличивающееся количество «слабых звеньев». Нам нужна легкость и эффективность масштабирования. Мы должны устраивать максимальный террор с минимальными затратами человеческих и материальных ресурсов. Кроме того, нам нужна безотказность работы этой машины.

Эти задачи призваны решить организационные (бюрократия) и политические (пресловутая «промывка мозгов», пропаганда) технологии. Но это трудная задача. Это задача, качество решения которой можно поднять исключительно технологиями. И новые информационные технологии могут дать здесь качественный скачок.

Итак, что представляет собой современная технологичная система политического террора? Каковы ее главные элементы?

Обычно подобные системы тщательно прячутся от глаз публики. Но благодаря журналистским расследованиям израильского портала «+972 Magazine» мы можем подробно познакомиться с одним из самых технологически совершенных решений в этой области.

Первый и наиважнейший элемент системного террора - это всеобщая цифровая слежка. Это фундамент, абсолютная база, без которого трудно построить действительно эффективный террор.

Израильское государство организовало очень плотную систему сбора информации о жителях сектора Газа. «Под колпаком» оказался практически каждый, проживающий в регионе - до 2,3 млн. человек.

Впрочем, эта цифра может оказаться лишь видимой верхушкой айсберга. Расследование журналистов касалось только сверхактуальной темы войны в Газе. Но совсем нетрудно предположить, что аналогичные операции Израиль ведет и на другой оккупированной им палестинской территории, Западном береге реки Иордан. Там тоже хватает боевичков, предпочитающих атаковать гражданское население. В Западном береге проживает 3,3 млн. человек.

На этом враги Израиля не заканчиваются. На северной границе, в Ливане, базируется «Хесболла» - крупнейшая в мире, 40-тысячная паравоенная организация, главной целью существования которой является уничтожение израильского государства. Поскольку родное, ливанское государство несостоятельно, и «следить за порядком» на его территории некому - почему бы Израилю заодно не организовать тотальную слежку за 5-миллионным ливанским населением?

Далеко на востоке располагается Исламская Республика Иран - крайне враждебная Израилю. Там проживает 90 млн. человек. И вряд ли кто-то будет спорить с тем, что тотальный сбор информации о жителях республики имеет ненулевую геостратегическую ценность для Израиля.

Наконец, внутри самого Израиля проживает примерно 2 млн. арабов, большая часть из которых исповедует ислам. И пускай радикалов среди них гораздо меньше, чем в Газе и на Западном берегу, симпатии в отношении этих палестинских территорий у них имеются. А этот риск лучше держать под контролем. Так что собирать информацию имеет смысл и о своих же гражданах - хотя бы о тех, у кого «неправильная» национальность.

Прелесть цифровых систем тотальной слежки в том, что они очень легко масштабируются. Если у тебя есть хорошая, отлаженная система сбора информации о 2 млн. людей - ее относительно просто и дешево расширить и до 20 млн., и даже до 200 млн. Издержки на это будут относительно невелики.

Какую именно информацию собирает Израиль? Полный список мы вряд ли когда-нибудь узнаем. И он должен быть весьма объемным. Из достоверно известного, это участие в WhatsApp-группах, это номера мобильных телефонов и место проживания. Это электронные соцсети. Это телефонные контакты. Это трекинг местоположения по мобильному телефону. Это фотографии, в т.ч. сделанные пользователем. И это доступ к «чужим» базам данных.

Из не упомянутого, но очень вероятного - это прослушка телефонных разговоров и отслеживание электронных денежных переводов. Шеф израильской разведки «Отдел 8200» Йосси Сариэль, курирующий этот проект, абстрактно описывает в своей книге подобную систему и упоминает «сотни и тысячи признаков», которые она может анализировать.

Отметим, что центральной точкой сбора персональной информации является смартфон человека. Если этот источник исключить, объем и качество собираемых данных резко падают.

Итак, у нас есть всеобщая слежка. Что еще нам необходимо? Для террора нужны жертвы. Нам надо прийти от абстрактных политических идей к конкретным людям из плоти и крови, на которых мы будем упражняться в жестокости. И если террор имеет системный характер, таких людей нужно много. Назовём этот процесс красивым, нейтральным понятием «таргетинг».

Вновь дадим слово Йосси Сариэлю. «Мы [люди] не способны обработать так много информации. Не важно, скольким людям вы даёте задачу искать цели во время войны - вы всё равно не сможете находить достаточно целей для каждого дня». Сариэль называет это «человеческим «бутылочным горлышком» как для поиска новых целей, так и для принятия решений по их одобрению».

Действительно, если мы оглянемся, скажем, на опыт сталинских репрессий - «человеческие» системы таргетинга были ключевой частью террора. Работали они медленно и неэффективно. Приходилось полагаться на доносы, обличающие тех или иных «врагов народа». Приходилось полагаться на изматывающие допросы, на избиения и пытки - где жертвы в конце концов оговаривали кого угодно. Чтобы обеспечить хотя бы видимость соответствия декларируемым политическим идеям, процесс обвинения сопровождался написанием кучи бумаг, подшиваемых в соответствующие дела. Но дальше имитации политической последовательности дело так и не шло.

Как решить проблему этого «бутылочного горлышка»? Цифровые алгоритмы! Только они позволяют отмасштабировать процесс таргетинга до каких угодно значений, без бюрократических проволочек и по единому стандарту, без всякого субъективизма и самодеятельности на местах.

У нас есть всеобъемлющая база данных на каждого человека. Мы можем взять из нее признаки некоторого количества наших политических врагов, которых мы заранее идентифицировали «вручную». И обучить на них алгоритм: вот эти признаки характерны для «врага народа», а вот эти - нехарактерны. Одно нажатие кнопки (плюс приличный объем вычислений) - и система просканирует всё население, выявив всех без исключения кандидатов на репрессии.

Cлайды из публичной презентации, посвященной проекту
Израильская система, называющаяся «Лаванда», присваивает каждому жителю Газы рейтинг, варьирующийся от 1 до 100. 1 - ты совсем не похож на боевика «Хамас». 100 - ты максимально похож на боевика «Хамас». Ну а между этими значениями простирается огромная серая зона, в которой люди в какой-то степени боевики, но и не совсем боевики. Такая «размытая» классификация характерна для очень многих алгоритмов искусственного интеллекта.

Если вы сейчас вспомнили про китайскую систему социального кредита - то это верный ход мыслей. Но китайская система - которую все без исключения СМИ критиковали как дьявольское, тоталитарное, антиутопическое изобретение - была спущена на тормозах. По большому счету, пиара там было гораздо больше, чем кибернетики. Управленцы на местах и в ЦК наперегонки создавали пафосные бюрократические циркуляры, в которых не было реального содержания.

Еще одно отличие - китайская система хотя бы номинально преследовала конструктивные цели. Вместе с «кнутом» рейтинг предусматривал и «пряники». Кроме того, формально система ориентировалась на аполитичную конфуцианскую мораль - хотя при желании развернуть ее в политическую плоскость труда бы не составило.

Единственной же целью работы израильской «Лаванды» был поиск «врагов народа». В отсутствие конструктивной повестки говорить о ее тоталитарности и антиутопичности намного правильнее, чем о китайском кейсе. Но западные СМИ не обратили на это большого внимания. Отчасти из-за завесы секретности, окружавшей проект вплоть до недавнего времени. Отчасти из-за двойных стандартов, где положение у Китая существенно хуже, чем у Израиля.

Отсутствие субъективности и простое масштабирование алгоритмов совсем не означает, что таргетинг будет осуществляться с идеальной точностью. Этап «ручной» идентификации целей, который требуется для обучения системы, очень чувствителен к малейшим нюансам. Именно на нем определяется, кого система будет считать «врагом народа», а кого - нет. И на этом этапе у нас есть богатейшие возможности развернуть острие будущего террора в ту или иную сторону.

Например, при создании «Лаванды» израильская разведка внесла в список «боевиков «Хамас»» всех сотрудников министерства внутренней безопасности Газы - т. е. местную полицию и гражданскую оборону. Видимо, подстёгиваемая тревогами ее шефа, что военных целей по-прежнему создается недостаточно.

Работники гражданской обороны Газы тушат пожар, возникший после бомбежки
Проблема здесь в том, что, согласно Женевским конвенциям, полиция и гражданская оборона не являются комбатантами. И, пока они не начнут участвовать в боевых столкновениях, это такое же гражданское население, как и все остальные государственные служащие. В данном конкретном случае, даже если мы не будем оглядываться на международное право, сотрудники полиции Газы если и участвовали в атаках на Израиль, то участие это было лишь эпизодическим.

Но если решение бороться с гражданскими службами противоречит как праву, так и понятиям справедливости, то с политической точки зрения оно выглядит вполне логичным. И мы видим, что одной политической мотивации здесь достаточно. Остальное - дело техники. Очень нехитрой техники. Решения, подобные описанному выше, позволяют до предела упростить процесс таргетинга. В частности, для этого было достаточно добавить в «черный список» одну базу данных с сотрудниками определенного ведомства.

От всего, что мешало процессу масштабирования террора, израильская разведка безжалостно избавлялась. Слова генерала Сариэля, сетовавшего на «бутылочное горлышко» человеческого принятия решений, не расходились с его делами. Есть человек - есть проблема. Чем меньше человек касается процесса таргетинга - тем меньше проблем.

Поэтому участие людей в выявлении «врагов народа» было сведено к минимуму. На пике кампании для проверки каждой «цели» сотруднику разведки отводилось 20 секунд. После чего давалась окончательная команда на уничтожение. За это время аналитик мог лишь проверить пол назначенной цели - мужской или женский. Разведка исходила из того, что женщин «Хамас» и «Палестинский исламский джихад» в военизированные отряды не брали - стало быть, цель была выбрана «Лавандой» по ошибке. Мужчин ждал смертный приговор.

Человек в петле принятия решений был скорее формальностью. Консервативным пережитком. Фиговым листком, позволяющим отправлять наверх бодрые рапорты, что «всё под контролем», и кормить публику аналогичными успокаивающими инкантациями. Без человека «Лаванда» превращалась в машину для убийств - а это звучит страшновато. А вот с участием людей процесс обретает ауру легитимности - террор становится тёплым, ламповым и пушистым.

Однако сами сотрудники «отдела 8200» описывают свою роль в довольно уничижительных выражениях. «Как человек, я давал ноль добавленной ценности, кроме того, что я штамповал одобрения. Это экономило много времени...»

Оба описанных выше элемента, тотальная слежка и машинный таргетинг, взятые отдельно, не являются какими-то страшными преступлениями против этики. Тотальная слежка сейчас используется главным образом для относительно невинных коммерческих целей. Таргетинг, даже если мы говорим о политическом контексте, применяется, скажем, в избирательных кампаниях. Как максимум, мы можем сказать, что эти инструменты не соответствуют духу демократии и нацелены на эксплуатацию граждан.

Чтобы прийти к системному политическому террору, обязателен третий элемент: насилие. Причем это будет необходимое, но недостаточное условие. Насилие, задействующее цифровую слежку и таргетинг, всё еще может применяться в условиях войны - той самой, классической, в меру институциализированной и в меру принимаемой обществами.

Война - страшное преступление против этики, но она хотя бы не отрицает существование этических ориентиров. Более того, некоторые скажут, что тотальная слежка и точный автоматизированный таргетинг создают новую концепцию войны, «хирургически точную», в которой число посторонних жертв потенциально может быть сведено к минимуму по сравнению с войнами «старого образца», где насилие применяется «вслепую» и массово.

Этот тезис заслуживает внимания. Но внимание Израиля оказалось сосредоточено не на «хирургической точности», избирательности и соответствии общепринятым институтам ведения военных действий. А на максимальной жестокости.

Институт войны предписывал, что она ведется организованно и организованными группами людей. Этот признак стал необходимостью, поскольку стояла цель разграничить военное и гражданское, мирное население. Вера в этические ориентиры диктовала, что последнюю категорию нужно как можно больше оградить от насилия.

Как только насилие становится неизбирательным, к войне добавляется террор. Террор начинает преобладать над войной, когда уничтожение организованных вооруженных сил становится второстепенной целью.

Главной тактикой Израиля стало уничтожение жилых домов. С находящимися в них жителями.

Система цифровой слежки могла определить постоянное место проживания для каждой цели. Если система видела, по данным геопозицирования в реальном времени, что цель зашла в свой дом, сотруднику разведки тут же поступал сигнал для одобрения бомбежки этого места.

Газа - бедный регион, и большинство частных домов там населяют большие семьи, состоящие из нескольких поколений родственников...

В первую неделю авиаударов жертвы среди гражданского населения вообще не брались в расчет при планировании целей. В последующие считалось допустимым убить 15 гражданских ради одного рядового боевика «Хамас».

Когда под бомбами стало погибать свыше 1000 палестинцев в день, военное командование установило лимит в 5 погибших гражданских на одного боевика. Но оказалось, что тогда для бомб получалось слишком мало целей. А бомбить Газу хотелось. Хотелось бомбить жилые дома. Поэтому лимит вновь повысило до 15 погибших гражданских. И целей, к радости израильского военного командования, вновь стало много. Палестинцы продолжили погибать целыми семьями.

Для более высокопоставленных членов «Хамас» лимит составлял около 100 погибших гражданских. Для самой верхушки - до 300. 300 бессмысленных убийств ради одного осмысленного? Да, об этических ориентирах здесь уже говорить не приходится. Зато политические задачи в этом бесчеловечном соотношении читаются очень ясно.

Было бы ошибкой предполагать, что израильские военные тщательно подходили к планированию гражданских потерь палестинцев. Хотя все информационные инструменты для этого были в их распоряжении. Но, повторимся, «хирургическая точность» насилия их не интересовала совсем. Число гражданских людей в доме, помеченном для бомбёжки, определялось на основе максимально абстрактных, гипотетических усредненных показателей. К реальности они не имели никакого отношения.

Вдобавок между моментом, когда система слежки засекала присутствие цели в доме, и моментом, когда на него падала бомба, могло пройти 4-7 часов. За которые предполагаемый «враг народа» мог просто покинуть здание. И тогда бомба падала, когда в доме не было никого, кроме мирных жителей.

Наконец, привязка целей шла исключительно через принадлежащий им смартфон. Стоило подозреваемому отдать кому-нибудь свой мобильник - жене, брату, детям и т. д. - как этот человек занимал его место в списках смерти, подготовленных «Лавандой»...

Κυβέρνησος ἐσχατιαί / Горизонты управления
[Список статей цикла]

политика, демократия, онолитека, социодинамика, Израиль, технологии, ИИ, #хэштегом, война, институты, тоталитаризм