Terrorists Win!: giovanni1313

giovanni1313

Terrorists Win!

May 08, 2024 13:42

В предыдущей части мы познакомились с тремя ключевыми составляющими технологичного политического террора: тотальной цифровой слежкой, алгоритмическим таргетингом и неоправданным насилием. Продолжающаяся операция Израиля в Секторе Газа - в которой была перейдена зыбкая грань между войной и террором - впервые в истории реализовала эти элементы на практике.

Одно из важных отличий войны от террора состоит в том, что для первой насилие не является самоцелью. Война предусматривает для противника способы избежать насилия - например, сдача в плен или дезертирство. Но списки убийств, составленные машиной, и последующее уничтожение гражданских объектов, люди в которых не оказывают организованного сопротивления, не оставляют последним никакого шанса избежать смерти.

Эта беспощадность, непреклонность и минимальный период времени от выявления жертвы до её уничтожения делает алгоритмические системы террора беспрецедентным явлением. Понятие «машина террора» перестаёт быть метафорой и становится реальностью. Освобожденная от «бутылочных горлышек» человеческого принятия решений, эта машина позволяет организовать политизированные убийства в промышленных масштабах.

Террор пугающ и бесчеловечен, и потому создать систему терорра из людей-исполнителей так непросто. Но там, где человечность только мешает, безэмоциальный алгоритм заменяет людей с непревзойденной эффективностью. Нет человека - нет проблемы.

Сказать, что подобная лёгкость организации автоматизированного террора опасна - значит, не сказать ничего. Проблема в том, что воронка террора имеет свойство расширяться, порой совершенно неожиданно для зачинщиков процесса.

Так было во время появления этого термина, в постреволюционной Франции. Так было в лихие сталинские годы. С поимкой очередных «шпионов», «вредителей» и «врагов народа» их число не уменьшалось - а, наоборот, росло в геометрической прогрессии. Наверх шли телеграммы с просьбами увеличить квоты на расстрелы и на отправку в лагеря. Разгорающаяся жажда крови перевешивала всё более очевидную абсурдность карательных операций.

Увы, эта динамика не обошла стороной и нынешний конфликт в Газе. У израильской разведки быстро закончились высокопоставленные «цели», досье на которые собирались вручную. Настал звездный час «Лаванды». Сначала бомбы полетели в палестинцев, которым система назначила высокий «рейтинг боевика». Но после нескольких недель боёв, после хаоса бомбежек и их стало не хватать.

Выход оказался простым: понизить допустимый рейтинг, за который назначался смертный приговор. Сначала это были люди, «очень похожие» на боевиков. Потом - «довольно похожие». Потом, когда и эти цели закончились, пошли убийства семей «немного похожих». Перед карателями стояла задача бомбить. Бомбить хотя бы кого-нибудь.

...Кампания закончилась по довольно прозаической причине: недостаток бомб. Некий чин в штабе посмотрел на оставшиеся запасы, посовещался с подопечными аналитиками - которые напомнили про «Хезболлу» на северной границе и про Иран далеко на востоке - и решил, что дальше растрачивать бомбы на палестинские дома будет стратегически нежелательно. Прагматизм в конечном итоге победил.

К концу ноября 2023 в северной части сектора и в окрестностях Газы было разрушено около половины жилых домов. Число жертв превысило 14 тысяч, из которых 10 тысяч составляли женщины и дети.

Уже на тот момент террористы выиграли. Выиграли, доказав, что политический террор - это не страница из дремучего прошлого, а концепция, способная интегрировать в себе самые современные технологии. Выиграли, продемонстрировав на практике не просто жизнеспособность цифровых систем террора - но их колоссальную эффективность. Наконец, выиграли, вернув массовое политическое насилие в повестку демократического политического режима.

Последний пункт заслуживает отдельного рассмотрения. Мы уже упомянули об опасности, исходящей от технологий и касающейся легкости масштабирования террора. Но опасность технологической эволюции террора состоит еще и в том, что она позволяет лучше обходить защитные механизмы демократий против насилия в политике. Работает эффект новизны. Работает иллюзия беспристрастности алгоритмов. Работает непрозрачность этих алгоритмов. Наконец, работает малая вовлеченность людей в эти процессы - из-за чего проще прятать такие программы от глаз публики.

Их можно выдать за проекты в области «национальной безопасности», реализовать в рамках оборонных программ и подверстать под «охрану правопорядка». Более того, такие системы достаточно гибки, чтобы интегрировать в них выполнение сразу нескольких функций. Выше мы уже говорили о том, что тотальная слежка и таргетинг имеют десятки различных применений.

Нам осталось только понять, куда идёт эта технологическая эволюция. Каково будущее системного политического террора. Израильская система, безусловно, очень продвинута - но совершенству предела нет. И основной фокус дальнейшей эволюции подобных систем, на мой взгляд, будет лежать в дальнейшем устранении человеческих «бутылочных горлышек».

Нет человека - нет проблемы. Если уже на данном этапе роль людей в таргетинге стала просто формальностью, то в дальнейшем можно ожидать полное ее исчезновение. Процесс выбора целей станет полностью контролировать машина.

Процесс физического устранения жертв в израильском кейсе выглядит наиболее архаично. Он требует пилота боевого самолета - очень редкую специальность. Вдобавок самолёто-вылеты и корректируемые авиабомбы - достаточно дорогой способ отправки людей на тот свет. С чем в конечном итоге и столкнулась операция «Железные мечи». Это очевидные препятствия перед масштабированием террора.

Напрашивается исключение людей и из процесса осуществления насилия. Скажем, за счет автономных квадрокоптеров, начиненных взрывчаткой, оснащенных системой распознавания лиц (а также, возможно, походки). Система тотальной слежки будет знать координаты цели в реальном времени и направлять квадрокоптер. Когда сенсоры дрона распознают жертву, он приблизится и взорвется возле её головы. Дешево, точечно, эффективно.

Роботизированная, беспрекословная армия разведчиков, аналитиков и исполнителей сделает машину террора безупречным и практически неуязвимым инструментом. Причем инструментом относительно недорогим и доступным. Настолько доступным, что позволить себе системный террор смогут не только государства с большим силовым аппаратом, но и не слишком крупные организованные группы.

Террористы выигрывают. Выигрывают очень много. Ведь системный террор гораздо результативнее в достижении тех или иных политических задач, нежели террор эпизодический, безадресный. Это поощряет мотивацию террористов ставить высокие технологии себе на службу.

Поэтому, увы, технологическая эволюция террора не принесет нам ничего хорошего. Когда террористы выигрывают, общество проигрывает. И чем проще становится масштабировать террор, тем больше будет страдать общество.

Можем ли мы что-то противопоставить этому масштабированию политического насилия? Можем ли мы противопоставить технологичному системному террору новую, альтернативную устойчивую систему? Пускай политика постепенно становится инструментом, поставленным на службу технологий - но разве технологии фундаментально аморальны и антигуманны?

Как же «техно-демократия»? Неужели это всего лишь пустое пиар-словечко?

Нет, в теории всё выглядит довольно красиво. В теории у нас есть безграничные возможности по алгоритмическому совершенствованию демократии, по созданию новых институтов, на фоне которых идеи философов Просвещения будут смотреться дремучими пережитками, и по осмысленному движению вперед, основывающемуся на обработке бесчисленных объемов данных.

На практике же… На практике технологическое развитие демократии заметно разве что под микроскопом. На практике технологическая гонка террора и демократии - это состязание в беге между Ахиллесом и черепахой. И можно сколько угодно утешать себя мыслью, что в теории Ахиллес никогда не сможет перегнать черепаху - но на самом деле это безумно опасная ситуация.

И, скорее всего, в этом забеге террор уже вырвался вперед.

Дело не в аморальности технологий - дело в скорости, с которой политические институты способны брать их на вооружение. И здесь для демократии картина выглядит совершенно неутешительной.

Преобладающий сейчас вариант либеральной демократии изначально опирается на институциональную стабильность. На незыблемость норм и их инерционность. Либеральные демократии устойчивы - но они же и медлительны. Политический террор, напротив, по своей природе бросает вызов любым нормам и законам. Он совершенно неразборчив в средствах.

Еще более фундаментальный фактор заключается в том, что нашей «черепахе» требуется карабкаться вверх по крутому утёсу социального прогресса. Совершенствоваться всегда гораздо сложнее, чем деградировать. Туда, наверх, ведет лишь малое количество путей и вариантов правильных решений. А вот падать вниз, в бездну первобытного хаоса, можно без особых усилий.

Другими словами, ломать - не строить. И здесь мы можем вспомнить расхожую фразу, характеризующую новые технологии как «подрывные». Фраза подчеркивает деструктивный характер технологических изменений. А вот с конструктивом получается не очень хорошо. В частности, эти изменения означают эрозию существующих демократических институтов, недостаточно гибких, чтобы адаптироваться к новому технологическому ландшафту. На их место приходят более примитивные, насильственные политические методы.

Демократия пыталась заменить насилие консенсусом. Но чем сложнее становилось общество, чем больше групп с разнонаправленными интересами оно объединяло - тем больше усложнялся поиск консенсуса. Чем более дифференцировано общество - тем сложнее изменить статус-кво, убедив все группы, что их интересы не пострадают от нововведений. Этот эффект хорошо исследован в теории игр. И простых мер для его преодоления не существует.

Внедрение цифровых технологий в политику поднимает еще одну проблему: в отличие от организационных технологий прошлого - условно-бесплатных «идей» и бюрократических регламентов - их использование очень капиталоёмко, а разработка - довольно трудоёмка. Другими словами, если раньше для политической реформы было достаточно одной лишь идеи - то для алгоритмических политических инструментов нужна минимальная «критическая масса» в виде аппаратной инфраструктуры, немалой команды инженеров и специалистов по данным. Это еще больше повышает барьер для внедрения цифровых инноваций в политическую практику.

Разработка систем политического террора и здесь находится в более выгодных условиях. Вести ее могут либо силовые ведомства, либо авторитарные организации. И там, и там бюджет может быть выделен буквально по одной команде от начальника. Непрозрачность гарантирует, что лишних возражений и вопросов не возникнет.

Даже если бы цифровые разработки не были такими капиталоинтенсивными, децентрализованные организации, к которым можно отнести все демократические политические системы, всегда отличались слабыми темпами внедрения инноваций. Речь идет буквально об органической неспособности угнаться за технологическим прогрессом.

Здесь возникает очевидный парадокс. Как объяснить то, что либеральная демократия - казалось бы, сторонящаяся инноваций - появилась в конце 18 века именно благодаря технологическому прогрессу? Ведь эта система стала плодом важнейших информационных технологий: всеобщей грамотности и типографской печати.

Если информационные технологии помогли тогда взять под контроль необузданное насилие в политике - то почему они угрожают вернуть его обратно в ближайшем будущем?

Самое очевидная перемена - это исчезновение монополии человека на обработку информации. Теперь этим могут заниматься еще и алгоритмические системы. Причем они могут делать это гораздо эффективнее и дешевле, чем люди. На многие порядки. Этот важный перелом открыл дорогу для роста информационной асимметрии.

Равенство всех граждан изначально было центральной теоретической предпосылкой демократии. Информационный его аспект, в частности, нашел отражение в подчеркивании роли СМИ как «четвертой ветви власти» - власти, призванной обеспечить равный доступ граждан к политически значимой информации.

Информационная асимметрия, в свою очередь, порождает неравенство. Неравенство порождает эксплуатацию, к которой мы можем отнести цифровую тотальную слежку и массовый таргетинг. А когда неравенство достигает экстремальных значений, в игру вступает и насилие.

Всеобщая грамотность и типографская печать демократизировали коммуникации, открывая доступ к информации всё более широкому кругу лиц. Но результаты работы проприетарных алгоритмов тщательно скрываются от любых посторонних. А гигантская капиталоёмкость массовых цифровых систем ставит на пути к этим знаниям монетарные барьеры, абсолютно непреодолимые для большинства граждан.

Поэтому перед будущим системного политического террора - равно как и перед будущим демократии - лежат два пути.

Первый путь - путь роста информационной асимметрии. Путь очевидный, укладывающийся во все существующие предпосылки, логичный и закономерный. Путь наименьшего сопротивления. Инерционный путь. Путь вниз, к насилию и ненависти, к превращению обратно в «человеческих животных». Путь, на котором террористы выигрывают. А общество в целом проигрывает.

Но есть и второй путь - путь, на котором общество добивается информационного равенства. На котором информационная прозрачность прямо пропорциональна серьезности принимаемых решений. И на котором наибольшая прозрачность требуется от организаций и сотрудников, распоряжающихся самыми опасными для демократии инструментами - инструментами насилия.

Это путь, где каждый будет знать, что ты собираешься атаковать соседний город, перебить не меньше тысячи мирных граждан и угнать пару сотен заложников. Это путь, где каждый будет знать, что ты собираешься разбомбить десятки тысяч мирных жилых домов вместе с находящимися там людьми.

Это путь, в котором каждый будет знать, что ты решил растоптать кованым сапогом социальный договор, образующий государство. Это путь, в котором действительно есть общность всех граждан и нет разделения на «врагов», подлежащих уничтожению, и карателей, имеющих привилегию убивать.

Это путь, в котором инфраструктура массовой цифровой слежки и обработки данных из инструмента эксплуатации становится инструментом обеспечения информационного равенства граждан. В котором «четвертая ветвь власти» либеральной демократии усиливается достижениями информационных технологий, позволяя еще больше приблизиться к идеалам справедливого устройства общества, задуманного еще в эпоху Просвещения. И сделать эту систему еще более устойчивой перед угрозами авторитаризма и политического насилия.

И это путь, вероятность выбора которого исчезающе мала по сравнению с шансами первого пути.

Но ведь и сама демократия возникла вопреки всем шансам.

Она возникла на месте еще более косной, сопротивляющейся всем инновациям системы. Она возникла вопреки логике этой системы, ставившей насилие во главе политики и безжалостно боровшейся с любыми покушениями на абсолютную власть. Тогда, ровно как и сейчас, карабкаться вверх по крутому утесу социального прогресса было неизмеримо труднее, чем стремиться вниз, в бесчеловечную бездну.

Однако у нас получилось выбрать прогресс.

И это не было каким-то чудом. Но это потребовало большой творческой работы незаурядных людей - Людей - которые искренне верили в этику и справедливость, несмотря ни на какие шансы и на логику старой системы.

Как и тогда, сейчас нам нечего противопоставить шансам и логике цифрового террора, кроме большой конструктивной работы и веры в этику и справедливость. У нас нет других альтернатив.

Мы не должны надеяться на чудо. Но мы должны знать, что, если наша работа приведет к появлению более устойчивой политической системы - то выиграет она, а не системный террор.

Устойчивость - ахилессова пята террора. Террор олицетворяет беззаконие - и в итоге ему попросту не на что опираться. Террор ставит целью максимальную жестокость - и в итоге этот абсолютно деструктивный характер мешает даже воспроизводству самого себя. Как бы ни эксплуатировал системный террор легкость масштабирования алгоритмов - алгоритмы, поставленные на службу демократии, будут масштабироваться с не меньшей легкостью и при этом работать гораздо более надёжно.

...Если наша работа приведет к появлению более устойчивой политической системы.

Наверное, даже правильнее будет заменить «если» на «когда».

Сколько раундов выиграет цифровой террор до этого «когда»? Я не знаю этого. Один раунд он уже точно выиграл. Увы, скорее всего не последний. Второй путь, путь информационного равенства, долог, и я не уверен, что мы сделали на нем хотя бы один шаг.

История показывает, что распространение демократии тоже не было триумфальным, поступательным и неотвратимым. Политическое насилие долгое время сопутствовало - и иногда продолжает сопутствовать - демократическим системам.

История не кончилась. Наоборот, она только начинается. И информационные технологии будут играть в новой истории все более важную роль.

Но по-прежнему всё, что мы можем противопоставить террору - это большая конструктивная работа и вера в этику и справедливость.

У нас нет других альтернатив.

Κυβέρνησος ἐσχατιαί / Горизонты управления
[Список статей цикла]

политика, демократия, онолитека, социодинамика, Израиль, технологии, #хэштегом, война, институты, тоталитаризм