Автономия достигла дна -- снова, и добро пожаловать в личную холодную войну
В прошлый раз когда автономия достигла дна, был дан контекст и сделаны важные выводы. Тогда ей заинтересовался главный электромобилист нашей прекрасной галактики, который теперь говорит о ней в основном плохое. Но теперь автономия достигла следующего дна -- околополитических мозговых паразитов с маниакальным увлечением диктовать другим как им жить, что делать и не делать. Однако они внезапно (и незаметно для себя) сделали одно хорошее дело -- сняли это видео, и показали его не просто на ютубе, а в ООН. Там сплошной поток прекрасного, который я подробно разберу.
1. Начинается всё в стиле TED с восхищения ведущимися уже лет 15 атаками дистанционно-управляемых самолётов против врагов их владельцев, с уточнением что все жертвы трёх тысяч атак за последний год были очень "нехорошими человеками". Если допустить с большим запасом что при каждой атаке (обычно ракетой AGM-114) уничтожался один джип, это порядка 10к убитых "нехороших человеков" за год.
2. Далее аморальная звезда сцены рассказывает много бессмысленных подробностей о интеллектуальности и неуязвимости маленького дрона с запасом энергии максимум минут на 15 полёта: штучка летает по непредсказуемой траектории и уклоняется от снайперов, распознаёт людей и части тела, особенно лицо, и понимает жесты и их контекст. Дальше раскрывается шокирующий сюрприз: в штучке ещё есть трёхграммовый кумулятивный заряд, функционально представляющий эквивалент пистолетной пули.
3. Далее звезда сцены бросает штучку в воздух над аудиторией, и за пять секунд штучка определяет поставленную задачу, обнаруживает и распознаёт цель, вычисляет траекторию перехвата, долетает до лба цели, и взрывается с намерением нанести мозгу несовместимые с жизнью повреждения.
4. Далее звезда сцены достигает нового уровня аморальности, сетуя на человеческий фактор: люди уклоняются от убийства нехороших человеков, страдают от эмоций, не выполняют приказы, стреляют мимо. Далее показывается как "оружие принимает решения" и за несколко секунд убивает несколько "плохих человеков". Аудитория апплодирует, звезда сцены довольна.
5. Далее звезда идёт к кульминации, и представляет ряд изделий, в которых реализованы те же принципы, но в промышленных масштабах. Штучки атакуют роем, реализуют тактики эшелонированной атаки, выбирают только нужные цели, уклоняются от огня и противодействия противника, и их невозможно остановить. Аудитория довольна.
6. Звезда готовится взорвать аудиторию (метафорически). Показан большой грузовой самолёт с задней рампой, в котором заряжено 700к штучек на 25 мегабаксов (по 35 баксов каждая) -- достаточно чтобы убить половину города, "плохую половину".
7. Далее звезда топчет ядерное оружие, и заявляет что штучками можно убить сразу всех врагов, задав им биометрические параметры целей (взятых из их биометрических паспортов, экаунтов в соцсетях и прочих инструментов причинения добра).
8. Далее звезда показывает парад "нехороших человеков" шаблонной наружности, и заявляет что производственная и логистическая система готова выполнить заказы клиентов из военных, правохранительных и "других" организаций.
9. Далее начинается душераздирающее зрелище по дуроскопу. Нация(!) в шоке после "какой-то автоматической атаки", в ходе которой на рабочем месте были убиты 11 сенаторов, причём все из одной (похоже республиканской) партии. Средства поражения проникли в здание, пробив окна, и поубивали кого нужно, полностью игнорируя или уклоняясь от остальных людей. Правительственные службы "не знают что это было", и кто это сделал -- государство, группа или один человек.
10. Звезду больше не показывают, всё внимание на дуроскопе. Эмоциональная женщина (похоже сенатор), в которую на этот раз не попали, истерит в камеру о контр-атаке. Высокоранговый солдат в берете заявляет что армия много тратит на секретные проекты. Женщина продолжает истерить, ставя в один ряд штучки и ядерное оружие (которое "устарело"?), с желанием накопить штучки миллионами и миллиардами. Солдат в берете рассказывает как самое важное защищено: основные места скопления доминантных политиков -- на остальное не хватает сил, средств и солдат.
11. Дальше эмоциональная женщина выключает истерику и проверяет чем занимается её кровиночка на обучении в Англии. Проверяет из штатов. Кровиночка тупит в инете в компании друзей и подружки, которую женщина уже уже видит через камеру телефона кровиночки, о чём кровиночка пока не знает. Женщина теряет терпение и сообщает кровиночке что она уже посмотрела все фотки кровиночки с подружкой, кто их полайкал и покоментил. Кровиночка начинает что-то подозревать, и спасается бегством вместе с подружкой, успев обвинить женщину в использовании военных средств шпионажа против личной жизни кровиночки. Но женщина увлеклась, и за несколько секунд докопалась не только до половых, но и до политических увлечений кровиночки. Женщина высказывает своё недовольство, а тем временем кровиночка с подружкой пробирается по защищённым от дронов лестницам в учебный класс. Это женщина позаботилась о безопасности кровиночки, о чём кровиночка ей вынужденно напоминает, пытаясь как-то слезть с липких тем. И ничто не предвещало беды...
12. Участились воздушные атаки, полиция в броне украшает собой улицы, эпизодически стреляя по машинкам. Голова в дуроскопе заявляет что законы о контроле за оборотом оружия бессильны против машинок. Операторы агрессивных телекамер глумятся над политиками в прямом эфире, пока те учат толпу держаться подальше от толпы, запереться в доме, зашторить окна и заблокировать двери. Где-то далеко в своих квартирах уже убиты сотни человек. Улицы опустели, и видны лишь подозрительные личности в лыжных шапках чёрного цвета, с предметами, напоминающими огнестрельное оружие. Но нет, это не мародёры: открыв дверь фургона, и нажав несколько кнопочек перед камерой, они выпускают десятки или сотни машинок. Машинки летят в сторону английского учебного заведения, первая волна пробивает дыры для второй, и вот пара десятков машиной пробилась в аудиторию, где кровиночка с подружкой что-то мирно изучает. Слышатся взрывы зарядов, люди падают, кровиночка паникует и звонит женщине, потому что в такой ситуации нет ничего важнее чем прямая трансляция селфи. Машинки доминируют в воздушном пространстве внутри и вокруг учебного заведения, ищут свои цели. Пока кровиночка лепечет в телефон, штучка обнаруживает голос, распознаёт его сигнатуру, и убивает кровиночку на глазах женщины, а заодно и телефон. Голова в дуроскопе сообщает что 12 универов было атаковано во всём мире, и 8300 студентов погибло, причём атака была строго прицельной. Мотив неизвестен, но подозревается что-то на тему коррупции и болтовня в социальных сетях.
13. Моментальный эксперт сообщает дуроскопу что штучки устранили барьеры: затраты, опасность и риск ведения войны, потому "теперь мы не можем себе позволить напасть ни на кого, даже на самую маленькую группу отщепенцев, или одиночку... Кто же мог это сделать? Кто угодно."
14. Звезда снова на сцене. Тупое оружие попадает куда нацелено, умное оружие наводится по собранным данным, ищет по ним цель, даже по хэштегу, что позволяет атаковать даже идеологию, а точнее мозги её носителей. Аудитория ликует.
15. Конец фильма, теперь его автор (профессор компьютерных наук, работавший над ИИ более 35 лет) хочет об этом поговорить. В фильме показан результат интеграции и миниатюризации уже существующих (и использующихся) технологий. Далее идёт морализаторство об угрозе машинок "нашей безопасности и свободе", и ссылка на моральную поддержку тысяч коллег профессора, желающих предотвратить такое будущее, для чего всё ещё есть возможность.
Ну вот, наконец-то я это допечатал, и можно начать себе позволять. Прежде всего хочется поздравить авторов с отличной работой -- кино удалось, и особенно удалось привязать его к социальным проблемам и личным интересам авторов.
1. Вся болтовня о машинках-убийцах выглядит впечатляюще лишь будучи вырванной из контекста. Пока таких машинок нет, люди-убийцы давно привыкли и постоянно практикуют атаковать кого им вздумается. Это может быть банальная уличная ситуация, когда им можно, а вам нельзя; это может быть война, когда у них есть всё, а у вас нет ничего; это может быть любая ситуация в непрерывном спектре между этими крайностями. Сегодня один человек со строгим лицом может вытащить пистолетик и разрушить ваш мозг, и ему ничего за это не будет -- он даже не "преступник", у него есть такое право: ему можно, а вам нет. Пока вам ничего нельзя, другим можно всё, начиная от наручников, и заканчивая баллистическими ракетами. Это нормально -- для них, так было всегда -- до сих пор. Сегодня это право и возможность внезапно оказались под угрозой, и возможно что даже реальные права начинают выравниваться. В не столь далёком прошлом это уже случалось, например когда это сделал полковник Кольт. Сегодня это может сделать машинка за 35 баксов, или пусть даже за 1000 баксов, или как угодно -- всё уже есть чтобы можно было это сделать, если верить на слово профессору, который "35 лет работал над ИИ". Утрата безопасности и свободы, о которых профессор так разволновался -- это утрата не вашей безопасности, и не вашей свободы, потому что у вас их нет и не было, как и задумано. Морализаторство о машинках-убийцах -- это крокодиловы слёзы людей, считающих своим правом безответно держать в страхе, убивать или атаковать других людей, не нуждаясь в машинках-убийцах. Уменьшение их свободы и безопасности -- это увеличение вашей свободы и безопасности.
2. Другой замечательный аспект кино -- роль социальных сетей и подключённых устройств в сборе информации о людях. Любой сам может представить сколько всего он запостил в сеть, и не может представить сколько всего о нём запостили другие, даже неосознанно. Если машинка за 35 баксов может искать лица в толпе, то машинка за 35 мегабаксов может искать их во всех социальных сетях, искать и строить связи между данными разных источников, и делать прочее такое. Любой может представить в скольких местах он оставил свой номер мобильного телефона, в скольких роутерах остался идентификатор его мобильных устройств, сколько приложений потребовали и получили доступ к его камере, его микрофону, его файлам, его GPS и его контактам. Персональные данные уже не проблема, локализовать человека уже не проблема, и профессор в этом прав.
3. В реальности первыми пользователями будут люди со строгими лицами, личными банкирами и уже более чем достаточными возможностями -- штучки не дадут им ничего нового, кроме удобства, экономии и чуть большей анонимности. Наибольший, принципиальный и социально-значимый эффект штучки дадут людям, которым сейчас ничего нельзя. Сегодня таких людей можно тормознуть на улице и вывернуть им карманы "для обеспечения безопасности", или запереть в клетке "до выяснения", или просто ограбить "по подозрению в нелегальной деятельности". Штучки повышают цену таких авантюр до уровня, когда не только личная безопасность авантюриста стремится к нулю, но также возникает и групповая ответственность, и даже коллективная ответственность. Например, внезапно заперли человека, и столь же внезапно прилетело в несколько мест, нескольким випам, или даже по сценарию провокации конфрикта третьей силой -- просто потому что человек вовремя не вышел на связь со своими маленькими электрическими друзьями. В сочетании с мощным потоком новостей из мира животных, это абсолютно новая ситуация, которой не было последние несколько тысяч лет: асимметрия силы уже не даёт асимметрии риска -- риск становится одинаково неприемлемым для всех. Конечно, у випов и прочих доминантов есть вариант зашторить жить в бункерах, но в таком случае преимущества жизни випа сводятся к нулю.
Закончить всё это можно цитатой из одного из любимых фильмов, где главный герой, за которым весьма успешно гонялась вся галактика, неожиданно нейтрализует для всех асимметрию риска, явившись на конференцию всех своих обидчиков с автономной ядерной бомбой на поясе и конструктивным деловым предложением.«My heart stops, we all go boom.
My heart speeds up, it is boom again.
Too hot, too cold, too happy, too sad, thirsty, hungry, bored -- it is boom, boom, boom.
And you try your little psychic trick, kaboom.
Welcome to my cold war.»
Всё теперь сводится к покупательной способности (уже на очень низком уровне), а не к доминантности и разрушительной силе, как исторически сложилось. Конечно это не устраивает выгодополучателей исторически сложившегося соотношения сил, потому ещё до появления полнофункциональной штучки, самозародились комитеты против, движения за запрет, письма бесчисленных "экспертов по ИИ", и прочие формы сопротивления. Но как и с ядерным оружием, штучка скорее нужна, чем не нужна, потому недовольным придётся адаптироваться к новым условиям, или принять ислам буддизм.
Click to view1. Начинается всё в стиле TED с восхищения ведущимися уже лет 15 атаками дистанционно-управляемых самолётов против врагов их владельцев, с уточнением что все жертвы трёх тысяч атак за последний год были очень "нехорошими человеками". Если допустить с большим запасом что при каждой атаке (обычно ракетой AGM-114) уничтожался один джип, это порядка 10к убитых "нехороших человеков" за год.
2. Далее аморальная звезда сцены рассказывает много бессмысленных подробностей о интеллектуальности и неуязвимости маленького дрона с запасом энергии максимум минут на 15 полёта: штучка летает по непредсказуемой траектории и уклоняется от снайперов, распознаёт людей и части тела, особенно лицо, и понимает жесты и их контекст. Дальше раскрывается шокирующий сюрприз: в штучке ещё есть трёхграммовый кумулятивный заряд, функционально представляющий эквивалент пистолетной пули.
3. Далее звезда сцены бросает штучку в воздух над аудиторией, и за пять секунд штучка определяет поставленную задачу, обнаруживает и распознаёт цель, вычисляет траекторию перехвата, долетает до лба цели, и взрывается с намерением нанести мозгу несовместимые с жизнью повреждения.
4. Далее звезда сцены достигает нового уровня аморальности, сетуя на человеческий фактор: люди уклоняются от убийства нехороших человеков, страдают от эмоций, не выполняют приказы, стреляют мимо. Далее показывается как "оружие принимает решения" и за несколко секунд убивает несколько "плохих человеков". Аудитория апплодирует, звезда сцены довольна.
5. Далее звезда идёт к кульминации, и представляет ряд изделий, в которых реализованы те же принципы, но в промышленных масштабах. Штучки атакуют роем, реализуют тактики эшелонированной атаки, выбирают только нужные цели, уклоняются от огня и противодействия противника, и их невозможно остановить. Аудитория довольна.
6. Звезда готовится взорвать аудиторию (метафорически). Показан большой грузовой самолёт с задней рампой, в котором заряжено 700к штучек на 25 мегабаксов (по 35 баксов каждая) -- достаточно чтобы убить половину города, "плохую половину".
7. Далее звезда топчет ядерное оружие, и заявляет что штучками можно убить сразу всех врагов, задав им биометрические параметры целей (взятых из их биометрических паспортов, экаунтов в соцсетях и прочих инструментов причинения добра).
8. Далее звезда показывает парад "нехороших человеков" шаблонной наружности, и заявляет что производственная и логистическая система готова выполнить заказы клиентов из военных, правохранительных и "других" организаций.
9. Далее начинается душераздирающее зрелище по дуроскопу. Нация(!) в шоке после "какой-то автоматической атаки", в ходе которой на рабочем месте были убиты 11 сенаторов, причём все из одной (похоже республиканской) партии. Средства поражения проникли в здание, пробив окна, и поубивали кого нужно, полностью игнорируя или уклоняясь от остальных людей. Правительственные службы "не знают что это было", и кто это сделал -- государство, группа или один человек.
10. Звезду больше не показывают, всё внимание на дуроскопе. Эмоциональная женщина (похоже сенатор), в которую на этот раз не попали, истерит в камеру о контр-атаке. Высокоранговый солдат в берете заявляет что армия много тратит на секретные проекты. Женщина продолжает истерить, ставя в один ряд штучки и ядерное оружие (которое "устарело"?), с желанием накопить штучки миллионами и миллиардами. Солдат в берете рассказывает как самое важное защищено: основные места скопления доминантных политиков -- на остальное не хватает сил, средств и солдат.
11. Дальше эмоциональная женщина выключает истерику и проверяет чем занимается её кровиночка на обучении в Англии. Проверяет из штатов. Кровиночка тупит в инете в компании друзей и подружки, которую женщина уже уже видит через камеру телефона кровиночки, о чём кровиночка пока не знает. Женщина теряет терпение и сообщает кровиночке что она уже посмотрела все фотки кровиночки с подружкой, кто их полайкал и покоментил. Кровиночка начинает что-то подозревать, и спасается бегством вместе с подружкой, успев обвинить женщину в использовании военных средств шпионажа против личной жизни кровиночки. Но женщина увлеклась, и за несколько секунд докопалась не только до половых, но и до политических увлечений кровиночки. Женщина высказывает своё недовольство, а тем временем кровиночка с подружкой пробирается по защищённым от дронов лестницам в учебный класс. Это женщина позаботилась о безопасности кровиночки, о чём кровиночка ей вынужденно напоминает, пытаясь как-то слезть с липких тем. И ничто не предвещало беды...
12. Участились воздушные атаки, полиция в броне украшает собой улицы, эпизодически стреляя по машинкам. Голова в дуроскопе заявляет что законы о контроле за оборотом оружия бессильны против машинок. Операторы агрессивных телекамер глумятся над политиками в прямом эфире, пока те учат толпу держаться подальше от толпы, запереться в доме, зашторить окна и заблокировать двери. Где-то далеко в своих квартирах уже убиты сотни человек. Улицы опустели, и видны лишь подозрительные личности в лыжных шапках чёрного цвета, с предметами, напоминающими огнестрельное оружие. Но нет, это не мародёры: открыв дверь фургона, и нажав несколько кнопочек перед камерой, они выпускают десятки или сотни машинок. Машинки летят в сторону английского учебного заведения, первая волна пробивает дыры для второй, и вот пара десятков машиной пробилась в аудиторию, где кровиночка с подружкой что-то мирно изучает. Слышатся взрывы зарядов, люди падают, кровиночка паникует и звонит женщине, потому что в такой ситуации нет ничего важнее чем прямая трансляция селфи. Машинки доминируют в воздушном пространстве внутри и вокруг учебного заведения, ищут свои цели. Пока кровиночка лепечет в телефон, штучка обнаруживает голос, распознаёт его сигнатуру, и убивает кровиночку на глазах женщины, а заодно и телефон. Голова в дуроскопе сообщает что 12 универов было атаковано во всём мире, и 8300 студентов погибло, причём атака была строго прицельной. Мотив неизвестен, но подозревается что-то на тему коррупции и болтовня в социальных сетях.
13. Моментальный эксперт сообщает дуроскопу что штучки устранили барьеры: затраты, опасность и риск ведения войны, потому "теперь мы не можем себе позволить напасть ни на кого, даже на самую маленькую группу отщепенцев, или одиночку... Кто же мог это сделать? Кто угодно."
14. Звезда снова на сцене. Тупое оружие попадает куда нацелено, умное оружие наводится по собранным данным, ищет по ним цель, даже по хэштегу, что позволяет атаковать даже идеологию, а точнее мозги её носителей. Аудитория ликует.
15. Конец фильма, теперь его автор (профессор компьютерных наук, работавший над ИИ более 35 лет) хочет об этом поговорить. В фильме показан результат интеграции и миниатюризации уже существующих (и использующихся) технологий. Далее идёт морализаторство об угрозе машинок "нашей безопасности и свободе", и ссылка на моральную поддержку тысяч коллег профессора, желающих предотвратить такое будущее, для чего всё ещё есть возможность.
Ну вот, наконец-то я это допечатал, и можно начать себе позволять. Прежде всего хочется поздравить авторов с отличной работой -- кино удалось, и особенно удалось привязать его к социальным проблемам и личным интересам авторов.
1. Вся болтовня о машинках-убийцах выглядит впечатляюще лишь будучи вырванной из контекста. Пока таких машинок нет, люди-убийцы давно привыкли и постоянно практикуют атаковать кого им вздумается. Это может быть банальная уличная ситуация, когда им можно, а вам нельзя; это может быть война, когда у них есть всё, а у вас нет ничего; это может быть любая ситуация в непрерывном спектре между этими крайностями. Сегодня один человек со строгим лицом может вытащить пистолетик и разрушить ваш мозг, и ему ничего за это не будет -- он даже не "преступник", у него есть такое право: ему можно, а вам нет. Пока вам ничего нельзя, другим можно всё, начиная от наручников, и заканчивая баллистическими ракетами. Это нормально -- для них, так было всегда -- до сих пор. Сегодня это право и возможность внезапно оказались под угрозой, и возможно что даже реальные права начинают выравниваться. В не столь далёком прошлом это уже случалось, например когда это сделал полковник Кольт. Сегодня это может сделать машинка за 35 баксов, или пусть даже за 1000 баксов, или как угодно -- всё уже есть чтобы можно было это сделать, если верить на слово профессору, который "35 лет работал над ИИ". Утрата безопасности и свободы, о которых профессор так разволновался -- это утрата не вашей безопасности, и не вашей свободы, потому что у вас их нет и не было, как и задумано. Морализаторство о машинках-убийцах -- это крокодиловы слёзы людей, считающих своим правом безответно держать в страхе, убивать или атаковать других людей, не нуждаясь в машинках-убийцах. Уменьшение их свободы и безопасности -- это увеличение вашей свободы и безопасности.
2. Другой замечательный аспект кино -- роль социальных сетей и подключённых устройств в сборе информации о людях. Любой сам может представить сколько всего он запостил в сеть, и не может представить сколько всего о нём запостили другие, даже неосознанно. Если машинка за 35 баксов может искать лица в толпе, то машинка за 35 мегабаксов может искать их во всех социальных сетях, искать и строить связи между данными разных источников, и делать прочее такое. Любой может представить в скольких местах он оставил свой номер мобильного телефона, в скольких роутерах остался идентификатор его мобильных устройств, сколько приложений потребовали и получили доступ к его камере, его микрофону, его файлам, его GPS и его контактам. Персональные данные уже не проблема, локализовать человека уже не проблема, и профессор в этом прав.
3. В реальности первыми пользователями будут люди со строгими лицами, личными банкирами и уже более чем достаточными возможностями -- штучки не дадут им ничего нового, кроме удобства, экономии и чуть большей анонимности. Наибольший, принципиальный и социально-значимый эффект штучки дадут людям, которым сейчас ничего нельзя. Сегодня таких людей можно тормознуть на улице и вывернуть им карманы "для обеспечения безопасности", или запереть в клетке "до выяснения", или просто ограбить "по подозрению в нелегальной деятельности". Штучки повышают цену таких авантюр до уровня, когда не только личная безопасность авантюриста стремится к нулю, но также возникает и групповая ответственность, и даже коллективная ответственность. Например, внезапно заперли человека, и столь же внезапно прилетело в несколько мест, нескольким випам, или даже по сценарию провокации конфрикта третьей силой -- просто потому что человек вовремя не вышел на связь со своими маленькими электрическими друзьями. В сочетании с мощным потоком новостей из мира животных, это абсолютно новая ситуация, которой не было последние несколько тысяч лет: асимметрия силы уже не даёт асимметрии риска -- риск становится одинаково неприемлемым для всех. Конечно, у випов и прочих доминантов есть вариант зашторить жить в бункерах, но в таком случае преимущества жизни випа сводятся к нулю.
Закончить всё это можно цитатой из одного из любимых фильмов, где главный герой, за которым весьма успешно гонялась вся галактика, неожиданно нейтрализует для всех асимметрию риска, явившись на конференцию всех своих обидчиков с автономной ядерной бомбой на поясе и конструктивным деловым предложением.«My heart stops, we all go boom.
My heart speeds up, it is boom again.
Too hot, too cold, too happy, too sad, thirsty, hungry, bored -- it is boom, boom, boom.
And you try your little psychic trick, kaboom.
Welcome to my cold war.»
Всё теперь сводится к покупательной способности (уже на очень низком уровне), а не к доминантности и разрушительной силе, как исторически сложилось. Конечно это не устраивает выгодополучателей исторически сложившегося соотношения сил, потому ещё до появления полнофункциональной штучки, самозародились комитеты против, движения за запрет, письма бесчисленных "экспертов по ИИ", и прочие формы сопротивления. Но как и с ядерным оружием, штучка скорее нужна, чем не нужна, потому недовольным придётся адаптироваться к новым условиям, или принять ислам буддизм.