Цифровой цугцванг. Сценарии будущего (окончание)
Следите за кибератаками? Россия, США, Китай, объекты стратегического назначения и несчастная Хиллари против сетевой президентской кампании Трампа… Кажется, все, о чем так долго говорили футурологи, свершилось. В нашем насквозь технологизированном мире боевые действия перемещаются с реальных полей сражений на поля виртуальные - за серверы, базы данных, токены, коды доступа и т. д. Завладейте компьютерной инфраструктурой противника, и он повержен.
Таким выглядит наш новый Армагеддон, но это лишь обман зрения. Кибервойна, о которой нас начинают потихоньку информировать, всё еще продолжает оставаться геополитической. Как и прежде, предполагается, что США будут воевать против России, Россия - против США, а Китай - вместе со всеми против всех. Но правда в том, что такая война устарела, и никому больше не нужна. Это война престарелых (по крайней мере, интеллектуально) генералов, которые, «слишком долго жили в Советском Союзе», или в состоянии холодной войны.
Всё изменилось. Да, на этот раз любимец американских студентов - Берни Сандерс - проиграл, но к следующим выборам и эти студенты вырастут, и новые появятся, так что какой-нибудь демагог-Сандерс точно победит. Про наших студентов я и вовсе молчу - если они и хотят завоевать мир, то только личной биографией и где-нибудь в приличном заграничном месте. Жители глобального сетевого пространства не знают и не хотят знать геополитики. Плевать на нее хотели и транснациональные корпорации, в особенности Google, Apple, Microsoft и Facebook/META.
Марк Цукерберг 28 октября 2021 г. объявил о смене названия компании Facebook - теперь она называется Meta. Цель ребрендинга Facebook - укрепить связь компании с новым проектом Metaverse, "метавселенной", в которой Цукерберг видит будущее интернета. Ребрендинг в Meta стартовал чуть более полугода назад. Все это время проект держали в строгой секретности, о нем знала лишь небольшая команда, подписавшая соглашение о неразглашении. При этом Цукерберг задумался о ребрендинге еще после покупки Instagram (в 2012 году) и WhatsApp (в 2014 году): "Я думаю, было много путаницы из-за того, что бренд компании стал также брендом одного из приложений для социальных сетей".
Как это будет работать
В Metaverse уже вложены миллиарды долларов. По крайней мере, 10 млрд дол только в этом году. Эти средства пойдут на работу Facebook Reality Labs, подразделения Metaverse, которое займется разработкой оборудования, программного обеспечения и контента для AR и VR. Среди реализованных проектов Facebook Reality Labs - очки виртуальной реальности Oculus Quest и дисплей Portal. Сейчас в Reality Labs работают 10 000 человек.
Криптотехнологии - NFT и смарт-контракты - будут играть "довольно важную роль" в Metaverse. "Один из главных вопросов, которые люди задают о виртуальных товарах в Метавселенной, - это: "Действительно ли я могу владеть этой вещью? Или это просто контент, который кто-то сможет у меня отобрать?", - говорит Цукерберг, не уточняя тонкости владения виртуальными активами.
На мероприятии Facebook Connect в конце октября вместе с новым названием Meta представила инструменты для "Метавселенной" как для разработчиков, так и для пользователей. Это гарнитура Project Cambria, Presence Platform, набор инструментов искусственного интеллекта для разработчиков. С их помощью можно будет создавать объекты виртуальной и дополнительной реальности, а также программировать их взаимодействие с "игроком". А увидеть эти объекты можно будет в виртуальном доме Horizon Home или на виртуальном рабочем месте Horizon Workrooms.
Откуда взялась "Метавселенная"
"Метавселенную" можно сравнить с видением интернета из фильма "Первому игроку приготовиться". Подробностей о Metaverse пока мало. Известно, что для нее будет создана единая система аккаунтов Meta, охватывающая все соцсети компании, гарнитуру Oculus Quest, дисплей Portal и будущие гаджеты Meta. Аккаунт в Facebook не будет необходим для входа в виртуальную вселенную. "Вы можете настроить аватар и он будет быть привязан к одному из аккаунтов, или может быть просто связан с вашей личностью в разных семействах приложений".
У Metaverse есть литературный прототип - это "Метавселенная" из романа "Лавина" Нила Стивенсона, написанного в 1992 году. В мрачном мире киберпанка "Метавселенная" становится местом, где обездоленные люди могут стать тем, кем захотят. Попасть в книжную "Метавселенную", как и Metaverse от Meta, можно с помощью очков виртуальной реальности.
В период пандемии граница между физическим и цифровым мирами начала становиться зыбкой не только для игроков в компьютерные игры и поклонников фантастики: к нам домой с помощью цифры массово пришли новые и вполне работоспособные (хоть и не без глюков) версии привычного физического мира. Работа или учеба для многих перестала быть связана с перемещением в офис или институт, покупки вполне успешно осуществлялись без визита в торговый центр, радость от просмотра кинопремьеры стала при наличии хорошего домашнего кинотеатра доступна с дивана, а новогодний корпоратив оказался очень эмоциональным мероприятием не в клубе, а на платформе для создания игр Roblox.
И вот тут о метавселенных вспомнили и заговорили уже бизнесмены. О своем желании построить метавселенную руками своих пользователей заявил, например, исполнительный директор Roblox Corporation Дэвид Башуки в ходе подготовки к IPO компании. Когда на концерт рэпера Трэвиса Скотта в игре Fortnite одновременно собрались более 12 млн зрителей, а сам исполнитель заработал около $20 млн, обозреватели не просто описывали произошедшее как потрясающее шоу, но и сочли, что им дали заглянуть в метавселенную.
"Виртуальный год: как пандемия ускорила цифровую трансформацию" (https://www.forbes.ru/obshchestvo/421415-virtualnyy-god-kak-pandemiya-uskorila-cifrovuyu-transformaciyu)
Очки, покрывающие изображением все поле зрения плюс объемный звук, безусловно, гарантируют куда более полное погружение в виртуальный мир и позволяют его микшировать с реальностью в любом удобном формате: например, любая реальная поверхность в интерьере вокруг может стать экраном высокого разрешения и рабочим столом, если так уж хочется работать с привычными метафорами цифрового окружения.
Ввод информации тоже не должен ограничиваться клавиатурой или управлением маркером на двумерном экране. Движения тела, мимика, речь - все должно восприниматься и правильно интерпретироваться цифровым миром. Facebook делает серьезную ставку на разработку собственных устройств виртуальной и дополненной реальности, и таким образом он может получить то, чего у него нет сейчас в мире социальных сетей на мобильных устройствах: обладать одновременно своей аппаратной и программной платформами, на следующем уровне повторить успех Google - и там этого конкурента резко обогнать, как и Apple.
Но эти соображения о деталях нашего доступа в метавселенную не отменяют главного тезиса Цукерберга: метавселенная - это не разработка или продукт одной компании, это описание цифровой среды будущего как целого, это интернет, сошедший с экранов всех размеров и слившийся с остальным миром вокруг нас. В метавселенной присутствуют не только цифровые сущности, не только игровая или рабочая среда, но и живые люди - так же, как сейчас в интернете, только мы будем лучше и полнее ощущать их присутствие.
Конечно, метавселенная, как ее ни реализуй, принесет много новых проблем, которых пока мы себе не представляем, и мало кто лучше Цукерберга знает, сколько новых неприятностей и подчас бед порождает по-настоящему массовый продукт с новыми свойствами. Но своим выступлением и своими практическими решениями по переориентации компании Цукерберг явно дал понять, что начинается новая технологическая гонка, а именно: в какой метавселенной (или, скорее нескольких) мы будем жить через несколько лет.
Остались только цифра и человек - два реальных конкурента за мировое господство, и уже понятно, по каким сценариям могут развиваться события.
Сценарий первый: кибервойна
Когда мы слышим что-то про кибератаки, мы представляем себе опустошенную кредитную карту или взломанную электронную почту, но это не совсем тот масштаб. Да, киберпреступность - это уже триллионная индустрия, и ее обороты давно превышают доходы наркокартелей, но военные кибератаки - это совсем другое дело. В военных целях разрабатывается кибероружие, направленное на инфраструктурные объекты: энергосистема, транспортная сеть, финансовый сектор и др., - а все это куда серьезнее жалкой кредитки или личной переписки.
Представьте, что враг лишает нас электричества, парализует транспорт и обвально девальвирует нашу валюту (например, эмитируя на банковские счета граждан неограниченные суммы денег). И дело не в том, что без электричества, например, мы не сможем посмотреть киношку на ночь, а в том, что из-за той самой технологизации нашей жизни за год от голода и болезней умрет девять из десяти человек. Мы лишимся воды, тепла, канализации, лекарств, остановится производство пищевой продукции, горючих веществ и т. д. Все будет настолько плохо, что даже зомби не понадобятся. Это ведь только кажется, что риск минимальный: мол, как-то же мы справлялись с отключением света в нашей квартире и никто не умер! Но мы никогда не справлялись с отключением всего электричества у всех сразу.
Но кому под силу такая задача - лишить целую страну всей ее инфраструктуры?! Вопрос на самом деле неверный и даже глупый. Правильный вопрос - как сохранить хоть что-то в мире в работоспособном состоянии после того, как соответствующее кибероружие «выстрелит»? Именно с этой проблемой и столкнулись наши американо-израильские коллеги, ударив компьютерным червем Stuxnet по иранским ядерным реакторам. Это был первый случай в истории, когда использовался не просто вирус-шпион - штука теперь уже совершенно тривиальная, а специальная программа, заточенная на физическое уничтожение реальных производственных агрегатов.
Реконструкция этой истории, чуть не закончившейся мировой катастрофой, выглядит следующим образом. Вероятно, некий шпион-диверсант пронес на охраняемую территорию иранского завода в Натанзе флешку со Stuxnet и запустил вирус в локальную компьютерную сеть. Для входа в систему червю требовался только Windows, чьи так называемые «уязвимости нулевого уровня» он знал. Вот почему, кстати говоря, не стоит удивляться требованиям Ангелы Меркель не гонять европейский интернет-трафик через американские серверы, а также отечественной инициативе по созданию собственной операционной системы. Все это абсолютно бессмысленно но сама по себе эта политическая паника не беспочвенна.
Впрочем, вернемся в Иран. Попав во внутреннюю сеть, этот виртуальный зверек обнаружил контроллер Siemens S7-300, работающий на газовой центрифуге по обогащению урана, и спектакль начался. Вирус определил программы, которые сигнализируют сотрудникам предприятия о состоянии центрифуг, и перекодировал их. Теперь работники завода уже не могли видеть, что происходит с центрифугами на самом деле - им казалось, что реактор работает идеально. Надев на операторов эти своеобразные шоры, вирус принялся жечь центрифуги: он то разгонял их, то резко замедлял, и оборудование выходило из строя. Всего за десять месяцев Stuxnet сжег таким образом от 1000 до 2000 центрифуг.
Ирония в том, что именно жертва нынешнего киберскандала - тогдашняя госсекретарь США Хиллари Клинтон - победоносно заявила в 2011 году, что проект по разработке вируса Stuxnet оказался успешным и иранская ядерная программа отброшена на годы назад. Остается только догадываться, что происходит в голове у этой женщины, если она, зная все это, решается пользоваться личной почтой для рабочей переписки… Кажется, политики совершенно не соображают, о чем говорят и с чем имеют дело. Им уже давно пора переходить на почтовых голубей)
Впрочем, история Stuxnet на этом не заканчивается. Напротив, начинается самое интересное. Никому и в голову не пришло, что этот киберзверь не удержится в клетке. Через интернет вирус покинул пределы завода в Натанзе и заразил тысячи компьютеров по всему миру. Нас тогда спасло только то, что Stuxnet всюду искал контроллер Siemens S7-300, а таковых на его пути больше не обнаружилось. Счастливая случайность, надо признать (ну или у Siemens существовала какая-то предварительная договоренность с ЦРУ). А теперь представим - следите за руками (это важно!), - что какой-нибудь аутизированный и закомплексованный хакер ловит такую штуку в интернете, слегка ее модифицирует и настраивает на уничтожение любого промышленного процесса.
На самом деле, в этом сценарии нет ничего сложного, а тем более невероятного. Допустим, некое правительство, «мира во всем мире» ради, убеждает какой-нибудь Microsoft поделиться информацией об «уязвимости нулевого уровня» его новой операционной системы. В расчете на эту уязвимость и создается вирус военного назначения, который используется против какого-нибудь «кровавого режима». Параллельно все это безобразие оказывается в интернете и, соответственно, в руках каких-нибудь безызвестных и скучающих программистов, которые решают «немного пошалить». Они блокируют программу самоуничтожения вируса и выпускают проапгрейженного хищника на волю.
Это реально. Абсолютно. Тот же Stuxnet в том же самом 2010 году был именно так - случайно - обнаружен в интернете неизвестным до той поры белорусским программистом Сергеем Уласенем. Благодаря своей находке Сергей, конечно, обрел известность и его забрали в «Лабораторию Касперского». Но что, если бы у него не было амбиции работать в команде Евгения Валентиновича? Представим себе, что Сергей оказался менее человеколюбивым и более амбициозным - как Герострат, например. Волне возможно, что мы бы уже с вами мило не беседовали, причем ни здесь, на «Снобе», ни где-либо еще. Ведь атомная бомба Оппенгеймера выглядит на фоне этого кибермонстра не страшнее кремлевской Царь-пушки.
Через год после победоносного заявления Хиллари бывший глава подразделения киберзащиты министерства внутренней безопасности США Шон Макгурк оказался на программе «60 минут» канала CBS, где ведущий прямо спросил его о Stuxnet: «Эту штуку могли использовать против нас?» Видимо, в ту секунду Шон сильно пожалел, что решился прийти на это шоу. Его ответом было сдавленное «да». Вся фактическая инфраструктура нашей насквозь технологизированной цивилизации уженаходилась под ударом, который вряд ли смогла бы выдержать. Так что, пока политики и генералы играют в свою, как им кажется, кибергеополитику, мы с вами безмятежно прогуливаемся по сафари-парку.
И тут нельзя отмахнуться, что, мол, с безумцами-хакерами ничего не поделаешь, а от случайностей не застрахуешься. Одно дело, когда безумец разгуливает с мачете по Лондону или с винтовкой по гей-клубу в Орландо, и совсем другое - тотальная уязвимость инфраструктуры. А вдруг этим безумцем окажется не какой-нибудь безвестный хакер, а, например, Сергей Михайлович Брин? Кризис среднего возраста там, какая-нибудь мизантропия, развившаяся на почве корпоративных войн и проснувшейся депрессии… Почему нет?
Сценарий второй: интернет-хунта
В предыдущих статьях я расссказывала о революционном проекте Илона Маска по созданию открытого искусственного интеллекта. Маск, но на свой манер, боится того же, чего боятся Ассанж и Сноуден: контроля со стороны «Большого Брата». Впрочем, если Ассанж и Сноуден боятся, что контролировать нас будет государство, то Маск уверен, что скоро контролировать нас начнет сама Сеть. Он не политик и не общественный деятель, - он технолог и бизнесмен. Как технолог, он прекрасно понимает, что будущее за сверхумным искусственным интеллектом, а, как бизнесмен, знает, что раскидистая клюква растет там, где денег бесконечное количество, а это, в частности, интернет-бизнес и все тот же самый пресловутый госзаказ.
Ассанжу, как известно, влетело за то, что он предал огласке документы Пентагона, которые тот вряд ли хотел рассекречивать. А вот за что пострадал Сноуден? Товарищ Эдвард рассказал мировой общественности про секретную программу Агентства национальной безопасности США под названием PRISM, в рамках которой АНБ получало негласный доступ к личным данным пользователей Microsoft, Yahoo, Google, Facebook, Skype, YouTube, Apple и др. На самом деле, речь шла о совершенно феноменальном сговоре между лидерами спецслужб и первыми лицами Кремниевой долины - вы ведете для нас слежку, а мы вас не трогаем.
Сидение Сноудена в московском аэропорту увенчалось успехом: интернет-гиганты поспешили дистанцироваться от АНБ и демонстративно ввели дополнительные системы шифрования, компания Acxion, которая почти официально создавала для АНБ «личные дела» американцев, исследуя их интернет-трафик, была заклеймена позором, а Барак Обама призвал правительство «взять на себя инициативу» и «покончить с цифровой слежкой». Все это выглядит очень круто: нашу личную жизнь решили оставить нам, и мы, вроде как, возрадовались. Никто, кажется, не понял масштаб ситуации.
Когда у Эрика Шмидта - прежнего главного исполнительного директора Google - спросили, не планирует ли Google превратиться в государство и вести себя на манер правительства, он ответил: «Нет, мы не стремимся. У государства слишком много сложных проблем». И значит это буквально следующее: «Да, мы будем государством, только вот за пособиями, образованием, правопорядком, сбором налогов и прочей ерундой - это не к нам, а к тем, кто почему-то продолжает себя считать государствами». Google, Apple, Facebook уже ощущают свое мировое господство, но раньше им приходилось мириться с государственным контролем (хотя бы и со стороны одних США), а теперь, после выходки Сноудена, они вполне могут сказать тем же США: извините, мы должны быть полностью независимы.
В шахматах есть такое понятие - цугцванг (это когда любой следующий ход игрока только ухудшает его позицию). Так вот, действия Сноудена продемонстрировали, что все мы находимся в том самом цифровом цугцванге. Дело в том, что вся информация, которую мы сами о себе оставляем в Сети, - это товар. Интернет-гиганты собирают ее, перерабатывают и продают. Они делали это, делают и будут делать - такова суть их бизнеса. Только раньше им приходилось делиться этой информацией с правительствами, а теперь у них есть легальное основание для отказа: они ведь как бы охраняют наши персональные данные. И ключевое слово здесь - «как бы», потому что они их не охраняют, они ими пользуются. А теперь будут пользоваться «в одно лицо».
А теперь задумайтесь, из-за чего так переживает Илон Маск, что решил инвестировать личный миллиард долларов в бесплатный и открытый искусственный интеллект? Все до банальности просто: если даже не сверхумный, а хоть сколько-то сообразительный искусственный интеллект первым окажется в руках Google или Meta, то все наши с вами персональные данные (которые у этих компаний уже есть и продолжают расти как на дрожжах - все сайты куда мы заходим, содержат cookies) превратятся в идеальный способ управления нашим поведением. Социолог Зейнеп Тюфекчи показывает, что социальные сети уже сейчас обладают способностью «формировать нашу личность и наши слабые места», «понуждают и формируют наши мысли, желания и мечты». Нужен лишь слегка усиленный движок искусственного интеллекта, и предсказание Олдоса Хаксли о производстве «нужных обществу людей» станет явью.
Уже сейчас так называемой «когнитивной архитектурой» обладают такие компании, как AGIRI, Cycorp, Google, IBM, Novamente, Numenta, Self-Aware Systems, Vicarious Systems, и список можно продолжать. Плюс вездесущее государственное DARPA - «Агентство по перспективным оборонным научно-исследовательским разработкам», - которому мы уже обязаны интернетом и тысячей других цифровых вещей, включая, например, крошку Siri. Да, это еще не тот искусственный интеллект, который способен справиться с «тестом Тьюринга», но, может быть, в этом и нет особой нужды? Разве не тот же эффект будет достигнут, если искусственный интеллект, так и не став полноценной личностью, уничтожит наши?
Выдающийся ученый, профессор социологии Нью-Йоркского университета и Лондонской школы экономики Ричард Сеннет говорит: «Пришло время разбить Google на куски», а для этого «нам нужны отважные политики». И все вроде бы логично: необходимо разрушить формирующиеся гигантские интернет-монополии до того, как они начали формировать нас. Но если эти монополии смогут в скором времени управлять нашим поведением (по факту, это и так уже происходит), то каким, как вы думаете, будет исход мировой войны этих «отважных политиков» с этими новыми виртуальными правителями?
Или кто-то полагает, что Брин или Цукерберг, залепивший камеру на своем личном ноуте скотчем, отдадут власть просто так, без боя?
И это, конечно, самый отвратительный сценарий. На мой вкус.
Сценарий третий: биржевой апокалипсис
Еще об одном сценарии скорой Четвертой мировой можно (и, наверное, даже нужно) рассказывать долго и сложно, но я буду максимальноупрощать... До недавнего времени я наивно полагала, что «кванты» - это неделимая порция энергии. Но на Уолл-стрит, как выясняется, свое понимание физики: там «квантами» называют специалистов по финансовой математике - тех самых, что уже оставили без работы и выкинули на улицу прежних, так хорошо известных нам по кино и новостным кадрам брокеров. Биржевые залы стремительно пустеют - на смену людям приходят математические алгоритмы.
Если верить гарвардскому ученому и бизнес-ангелу Александру Уисснеру-Гроссу, те средства, которые банки и хедж-фонды затрачивают на создание искусственного интеллекта, уже сейчас превышают совокупные затраты IT-компаний на те же цели. И удивляться тут нечему: деньги должны делать деньги, и, если нужно потратить деньги на то, чтобы делать деньги, за деньгами дело не станет. Некоторые из существующих алгоритмов уже сейчас умеют общаться друг с другом и осуществляют сделки за миллисекунды. Ни один человек не способен составить им конкуренцию в этой - самой большой - финансовой игре. И это новая реальность «системы высокочастотного трейдинга» (HFT).
О том, что это за монстр, мир узнал в 2010 году, когда какой-то (тогда еще человек)) трейдер умудрился одновременно выставить на продажу европейские фьючерсные контракты и инвестиционные фонды на сумму в 4,1 миллиарда долларов. В результате его ошибки стоимость соответствующих контактов по E-Mini S&P 500 упала на 4% за 4 минуты. Алгоритмы HFT уловили падение и начали автоматическую распродажу, другие алгоритмы тут же начали покупку, сопровождавшуюся распродажей других ценных бумаг для получения средств на эти покупки.
Запустился чудовищный механизм цепной реакции, в результате которого за двадцать минут индекс Доу-Джонса упал на тысячу(!!) пунктов. Никто не успел понять, какого хрена что происходит, вмешаться и остановить эту компьютерную панику. По большому счету, это, конечно, ерунда: кто-то потерял, кто-то нашел. Всегда так бывает. Но в результате этой «ерунды» Греция оказалась на грани дефолта, подвергнув системному кризису всю европейскую экономику. И это был только первый случай подобной «паники» примитивных биржевых искусственных интеллектов, впоследствии аналогичные эпизоды повторялись неоднократно.
Понятно, почему банки и хедж-фонды не жалеют денег на «кванты». Непонятно, чем все это закончится. Не случится ли так, что какой-то из биржевых игроков создаст искусственный интеллект, пусть и не тьюринговский, но способный переиграть остальные алгоритмы на рынке, раньше других? Так и случится - кто-то, с неизбежностью, будет первым. Но станет ли он победителем, когда его монстр искусственного интеллекта, вышедший на мировой финансовый рынок, обрушит всю систему, а вместе с ней и мировую экономику?
Алгоритму наплевать на греческие пенсии, да и вообще на всю реальную экономику. Если его цель - заработать, то никакого сострадания, а тем более «социальной ответственности», ожидать от него не приходится. Да, сработают какие-то системы защиты, остановка торгов и т. д. Но смогут ли они после этого возобновиться? И как все это будет работать, если нет? С учетом того, что на мировых биржах, в принципе, давно торгуют воздухом из гигантского мыльного пузыря, появление такого игрока грозит всей системе тотальным крахом. Сработает та самая «скорость недоверия», о которой я уже рассказывала в предыдущих постах, а дальше… Возвращаемся к первому сценарию - нет электричества, транспорта и денег.
Как итог: читайте изучайте больше, и не вкладывайтесь в биток держите глаза открытыми. Будущее уже ломится в двери.