Про Израиль: «Технически - это фашизм» (продолжение 1)

Apr 11, 2024 17:03

С фейсбука. Продолжение.

“ЛАВАНДА”: ИИ-МАШИНА, УПРАВЛЯЮЩАЯ ИЗРАИЛЬСКИМИ БОМБАРДИРОВКАМИ В ГАЗЕ

ЦАХАЛ пометил как подозреваемых в убийствах десятки тысяч жителей Газы, используя систему выбора целей на основе искусственного интеллекта, при слабом человеческом контроле и политике попустительства в вопросе сопутствующих гражданских жертв, сообщают +972 и Local Call.

Юваль Абрахам, +972, 03.04.2024

В 2021 году под псевдонимом "Бригадный генерал Ю.С." была опубликована книга на английском языке "The Human-Machine Team: Как создать синергию между человеком и искусственным интеллектом, которая революционизирует наш мир". В ней автор - человек, который, как мы выяснили, является нынешним командиром элитного израильского разведывательного подразделения 8200, - обосновывает необходимость создания специальной машины, способной быстро обрабатывать огромные массивы данных и генерировать тысячи потенциальных "целей" для военных ударов в разгар войны. Такая технология, пишет он, устранит то, что он назвал "человеческим бутылочным горлышком как при поиске новых целей, так и при принятии решений об их утверждении".

Оказывается, такая машина действительно существует. Новое расследование, проведенное журналом +972 Magazine и Local Call, показывает, что израильская армия разработала программу на основе искусственного интеллекта, известную как "Лаванда", которая впервые представлена здесь. По словам шести офицеров израильской разведки, которые служили в армии во время нынешней войны в секторе Газа и имели непосредственное отношение к использованию искусственного интеллекта для генерации целей для убийств, "Лаванда" сыграла центральную роль в беспрецедентных бомбардировках палестинцев, особенно на ранних этапах войны. По словам источников, ее влияние на операции армии было таково, что к результатам работы ИИ-машины относились, по сути, к "как к человеческому решению".

Формально система Lavender предназначена для того, чтобы отмечать всех предполагаемых боевиков военных крыльев ХАМАС и "Палестинского исламского джихада" (ПИД), включая низкопоставленных, как потенциальные цели для бомбардировок. Источники рассказали +972 и Local Call, что в первые недели войны армия почти полностью полагалась на систему Lavender, которая пометила до 37 000 палестинцев как предполагаемых боевиков, а их дома как цели возможных авиаударов.

На ранних этапах войны армия давала офицерам разрешение на использование списков целей, сгенерированных Лавандой, не требуя тщательной проверки оснований, по которым машина сделала выбор, или изучения исходных данных разведки, на которых он был основан. Один из источников заявил, что люди часто служили лишь "резиновой печатью" для решений машины, добавив, что обычно они лично уделяли каждой цели всего около "20 секунд", прежде чем дать разрешение на бомбардировку - только чтобы убедиться, что цель, отмеченная Лавандой, - мужчина. И это несмотря на то, что система допускает "ошибки" примерно в 10 процентах случаев и, как известно, иногда отмечает людей, которые имеют лишь слабое отношение к боевым группам или вообще не имеют к ним никакого отношения.

Более того, израильская армия систематически атаковала людей в их домах - как правило, ночью, в присутствии всей семьи, - а не во время военных действий. По словам источников, это объяснялось тем, что, по их мнению, с точки зрения разведки, обнаружить людей в их частных домах было легче. Дополнительные автоматизированные системы, в том числе система под названием "Где папа?", о которой здесь рассказывается впервые, использовались специально для отслеживания намеченных целей и осуществления взрывов, когда объект входил домой, к семье.

В результате, по свидетельствам источников, тысячи палестинцев - большинство из них женщины и дети или люди, не участвовавшие в боевых действиях, - были уничтожены израильскими авиаударами, особенно в первые недели войны, в результате решений программы ИИ.

"Мы не были заинтересованы в том, чтобы убивать боевиков [ХАМАС] только тогда, когда они находились в военном здании или занимались боевыми действиями, - сказал А., офицер разведки, в интервью +972 и Local Call, - Напротив, ЦАХАЛ без колебаний выбирал в качестве первого варианта бомбить их в домах. Гораздо проще разбомбить дом, в котором живет объект с семьей. Система настроена на то, чтобы искать их в таких обстоятельствах".

Машина Lavender присоединилась к другой системе искусственного интеллекта, "Евангелион", информация о которой была раскрыта в предыдущем расследовании +972 и Local Call в ноябре 2023 года, а также в собственных публикациях израильских военных. Принципиальное различие между этими двумя системами заключается в определении цели: если Евангелион отмечает здания и сооружения, из которых, по мнению армии, действуют боевики, то Лаванда отмечает людей - и заносит их в список на ликвидацию.

Кроме того, по словам источников, когда речь заходила о нанесении ударов по отмеченным Лавандой предполагаемым боевикам низшего ранга, армия предпочитала использовать только неуправляемые средства, известные как "тупые" бомбы (в отличие от "умных" высокоточных бомб), которые могут разрушить целые здания, а также привести к значительным жертвам. "Вы не хотите тратить дорогие бомбы на неважных людей - это очень дорого обходится стране, а их [бомб] не хватает", - сказал К., один из сотрудников разведки. Другой источник сообщил, что они лично санкционировали бомбардировку "сотен" частных домов предполагаемых младших оперативников, отмеченных Лавандой, причем во многих из этих атак погибли гражданские лица и целые семьи в качестве "сопутствующего ущерба".

По словам этих двух источников, в первые недели войны армия приняла беспрецедентное решение, согласно которому за каждого младшего боевика ХАМАС, отмеченного Лавандой, разрешалось убивать до 15 или 20 гражданских лиц; в прошлом военные не разрешали наносить "побочный ущерб" при убийствах боевиков низкого ранга. Источники добавили, что в случае, если целью был высокопоставленный чиновник ХАМАС в ранге командира батальона или бригады, армия несколько раз разрешала убить более 100 гражданских лиц при убийстве одного командира.

Следующее исследование организовано в соответствии с шестью хронологическими этапами высокоавтоматизированного производства целей израильской армией в первые недели войны в Газе. Во-первых, мы рассказываем о самой машине Lavender, которая с помощью искусственного интеллекта пометила десятки тысяч палестинцев. Во-вторых, мы раскрываем систему "Где папа?", которая отслеживала эти цели и сигнализировала армии, когда они входили в свои семейные дома. В-третьих, мы описываем, как для нанесения ударов по этим домам были выбраны "тупые" бомбы.

В-четвертых, мы объясняем, как армия ослабила допустимое количество гражданских лиц, которые могут быть убиты во время бомбардировки цели. В-пятых, мы отмечаем, как автоматизированное программное обеспечение неточно подсчитывало количество некомбатантов в каждом доме. И в-шестых, мы показываем, как в нескольких случаях, когда наносился удар по дому, обычно ночью, сама цель иногда вообще не находилась внутри, потому что военные не проверяли информацию в режиме реального времени.

ШАГ 1: ГЕНЕРАЦИЯ ЦЕЛЕЙ

"КАК ТОЛЬКО ВЫ ПЕРЕХОДИТЕ НА АВТОМАТИЧЕСКИЙ РЕЖИМ, ГЕНЕРАЦИЯ ЦЕЛЕЙ СХОДИТ С УМА".

В израильской армии термин "человеческая цель" в прошлом обозначал высокопоставленного военного, которого, согласно правилам отдела международного права ЦАХАЛ, можно убить в его частном доме, даже если рядом находятся гражданские лица. Источники в разведке рассказали +972 и Local Call, что во время предыдущих войн Израиля из-за "особой жестокости" этого способа ликвидации - часто вместе с целью погибала вся семья - такие "человеческие цели" выбирались очень тщательно, и в собственных домах бомбили только высокопоставленных военных командиров, чтобы соблюсти принцип пропорциональности в соответствии с международным правом.

Но после 7 октября - когда возглавляемые ХАМАС боевики устроили смертоносное нападение на южные израильские населенные пункты, убив около 1200 человек и похитив 240, - армия, по словам источников, приняла кардинально иной подход. В рамках операции "Железные мечи" армия решила определить всех боевиков военного крыла ХАМАСа как живые мишени, независимо от их звания или военной значимости. И это все изменило.

Новая политика также создала техническую проблему для израильской разведки. В предыдущих войнах для того, чтобы санкционировать убийство одной человеческой цели, офицер должен был пройти сложный и длительный процесс "инкриминирования": проверить доказательства того, что человек действительно является высокопоставленным членом военного крыла ХАМАС, выяснить, где он живет, его контактную информацию и, наконец, узнать, когда он находится дома в режиме реального времени. Когда список целей насчитывал всего несколько десятков высокопоставленных оперативников, сотрудники разведки могли в индивидуальном порядке справиться с работой по их выявлению и установлению местонахождения.

Однако когда список расширился, и в него вошли десятки тысяч оперативников низшего звена, израильская армия решила, что нужно полагаться на автоматизированное программное обеспечение и искусственный интеллект. В результате, по свидетельству источников, роль человеческого персонала в инкриминировании палестинцев в качестве военных оперативников была отодвинута на второй план, и вместо них большую часть работы выполнял искусственный интеллект. По словам четырех источников, беседовавших с +972 и Local Call, Лаванда, разработанная для определения человеческих целей в текущей войне, пометила около 37 000 палестинцев как предполагаемых "боевиков ХАМАС" - большинство из которых относятся к низшему звену - для ликвидаций (пресс-секретарь ЦАХАЛа в заявлении для +972 и Local Call отрицает существование такого списка).

"Мы не знали младших оперативников, потому что Израиль обычно их не отслеживал [до войны], - объяснил старший офицер Б. корреспондентам +972 и Local Call, разъясняя причину разработки для текущей войны этой конкретной машины для генерации целей, - Они хотели, чтобы мы могли атаковать [младших оперативников] автоматически. Это Святой Грааль. Как только вы переходите на автоматический режим, генерация целей сходит с ума".

По словам источников, разрешение на автоматическое внедрение ликвидационных списков Лаванды, которые до этого использовались лишь в качестве вспомогательного инструмента, было получено примерно через две недели войны, после того как сотрудники разведки "вручную" проверили точность случайной выборки из нескольких сотен целей, отобранных системой ИИ. Когда эта проверка показала, что точность Лаванды при определении принадлежности человека к ХАМАС достигла 90 процентов, армия разрешила широко использовать эту систему. С этого момента, по словам источников, если Лаванда решала, что человек является боевиком ХАМАСа, их, по сути, просили рассматривать это как приказ, не требуя самостоятельно проверять, почему машина сделала такой выбор, или изучать необработанные данные разведки, на которых он основан.

"В 5 утра [ВВС] прилетали и бомбили все дома, которые мы отметили, - говорит Б, - Мы уничтожили тысячи людей. Мы не перебирали их по одному - мы ввели все в автоматизированные системы, и как только кто-то из [отмеченных людей] оказывался дома, он тут же становился целью. Мы бомбили его и его дом".

"Меня очень удивляло то, что нас просили разбомбить дом, чтобы убить рядового пехотинца, чье значение для боевых действиях было столь незначительным, - рассказал один из источников об использовании ИИ для маркировки предполагаемых низкоранговых боевиков, - Я прозвал эти цели ‘мусорными’. Тем не менее, я считал их более этичными, чем цели, которые мы бомбили только для ‘сдерживания’ - высотки, которые эвакуировали и рушили только для того, чтобы вызвать разрушения".

Смертоносность такого ослабления ограничений на ранней стадии войны была ошеломляющей. По данным палестинского министерства здравоохранения в Газе, на которые израильская армия почти полностью опиралась с начала войны, за первые шесть недель войны, вплоть до недельного прекращения огня, о котором договорились 24 ноября, Израиль убил около 15 000 палестинцев - почти половину всех погибших на данный момент.

Израиль

Previous post Next post
Up