Размерность имеет значение!
«Шон Иллинг: В недавнем интервью <изданию> Politico Вы сказали, что Трамп «не будет заботиться о действительно компетентном управлении правительством. А будет заботиться о том, что, по его мнению, он выиграет или потеряет в расположении публики».
Вы можете пояснить, что здесь имелось в виду?
Майкл Д'Антонио: Он никогда не был топ-менеджером, который был бы вовлечен в каждодневную работу сложного предприятия с большим числом работников. Когда несколько раз он пытался этим заниматься, он терпел неудачу - его управление казино и авиалиниями являются убедительным примером этого. Он не смог сделать эти направления успешными на долгом промежутке времени.
Он предпочитает совершать сделки, предпочитает яркие, сияющие моменты. Это подсказывает мне, что государство будет в руках людей, которых он назначил. Но как это сработает, еще предстоит выяснить. Поскольку рано или поздно президенту приходится столкнуться с вопросом: насколько хорошо у нас идут дела?
Иллинг: Поэтому Вы думаете, что он будет больше озабочен своим рейтингом, чем проведением политики; и именно первое будет определять принимаемые решения?
Д'Антонио: Да, я думаю, это верно. Я думаю, что он будет гораздо более сосредоточен на церемониальных аспектах президентства, на аплодисментах, звучащих, когда он появляется на публике. И если это потребует каких-то поощрений для аплодирующих или «засланных казачков» в толпе - то здесь Трамп будет в своей стихии.
Для меня странно, что он хочет появиться, как 70-летняя звезда ночных клубов, и выступить про всё, что сейчас происходит, а затем исполнить свои лучшие хиты - что сводится к перечислению своих прошлых побед. И он считает, что этого достаточно. Это всё пустое и чисто символическое, но именно это он делает и так руководит. <…>
Также я думаю, что он раздражается и даже впадает в ярость, когда кто-то сверяется с фактами и ищет доказательства, чтобы подтвердить или опровергнуть его заявления. Он считает, что ему просто можно говорить вещи, и эти вещи должны быть приняты и распространены некритически. Поэтому он возмущается, когда люди поступают не так и вместо этого оценивают его по тем или иным стандартам. И он воспринимает это как персональный выпад. <…>
Иллинг: Звучит не очень успокаивающе, Майкл. Человек, которого собственная эмоциональная неуверенность заставляет кидаться во все стороны - не тот, кому хочется доверить ядерные коды.
Д'Антонио: Смотрите: проблема в том, что ему надо выиграть сразу на многих полях - больше, чем любой человек может ожидать от себя. И он использует игровые уловки вместо результативности, чтобы добиться своей цели. Если вы делаете это достаточно долго, как вы вообще можете быть уверены, что выиграли благодаря своим положительным качествам? Он всегда выигрывает, подтасовывая результат в свою пользу - но вы ничего не узнаете о себе таким образом. Если вы что-то узнаете - это то, что вы обманщик, а не обладаете талантом или способностями. <…>
Иллинг: Как Вы смотрите на его войну с прессой? Под каким углом?
Д'Антонио: Он хочет делигитимизировать все источники информации за исключением себя самого. Если кто-то противоречит ему, включая мейнстримные СМИ, он должен уничтожить доверие к ним, чтобы иметь основания утверждать, что его несправедливо атакуют.
Вот так он действует, так относится к СМИ. Обычные правила для него всегда слишком трудные. Если он принимает участие в споре на основе рациональных, основанных на фактах аргументах - это гораздо сложнее, чем жаловаться на то, что на него нападают, и затем говорить, что ты ответишь в 10 раз сильнее, потому что не собираешься этого терпеть.
Иллинг: Как Вы думаете, для Трампа правда имеет ценность? Насколько я могу судить, всё - игра, где есть победители и проигравшие; и он должен быть победителем - вот и все.
Д'Антонио: Я думаю, что, если правда ему неугодна - она не имеет для него ценности. Поэтому когда он думал, что проигрывает на выборах, выборы были нечестными. А потом, когда он выиграл - конечно, они не были нечестными. Это всё ситуационные моменты, здесь нет внутренней приверженности каким-либо фактам.
Иллинг: Если ты заботишься о правде только тогда, когда она тешит твое самолюбие - значит, тебя не интересует правда. Опять же, наблюдать такое свойство в главнокомандующем - страшновато.
Д'Антонио: Верно, и что бросается в глаза - так это то, что Трамп крайне неохотно учится новым вещам, если они противоречат его имеющимся предубеждениям. Он не пускается в двусторонние обсуждения фактов с собеседником, или, по крайней мере, никогда не делал этого в моём присутствии. Это всегда были заявления, которые следовали за заявлениями.»
...Вот такая любопытная беседа. Майкл Д'Антонио, к слову - автор книги-биографии Д. Трампа, и обвинять его в фантазировании или предвзятости у меня нет совершенно никаких оснований. Что ж, Америку можно поздравить: теперь ей руководит любитель шоу с болезненным самолюбием, который совсем не дружит с реальностью.
Кто-то может напомнить мне про Джорджа Буша-младшего, тоже не отличавшегося блистательным интеллектом. Кто-то пожмёт плечами: мол, американцы сами выбрали себе такого президента - значит, они его достойны. Кто-то будет злорадствовать: мы же говорили - «Америке конец!», вот сейчас их новый президент и наломает дров. Последняя позиция, на мой взгляд, вряд ли уместна. Слишком тесно сейчас все мы связаны в глобальном мире, и неурядицы в одной из крупнейших экономик порождают такие волны, что могут вовсе опрокинуть более слабые страны. 2008 год был очень показательным примером.
А вот с остальным придётся согласиться. Хотя мне - пускай я и живу в другой стране - не особо нравятся персонажи уровня бушей и трампов во главе сильнейшего государства. Обидно не то что «за державу» - а сразу за всё наше человечество. Но, поскольку просто обижаться - неконструктивно, я попробую рассказать про альтернативу сложившимся политическим моделям. Хотя, в отличие от них, эта альтернатива еще не успела сложиться и ждет нас только в будущем.
Насколько близком? Вряд ли кто-то может дать сейчас ответ. Но можно быть уверенным в том, что в 2016 это будущее стало гораздо ближе, чем было, скажем, в 2012. И дело здесь не только в календарной дате и уж совсем не в исходе американских президентских выборов.
В 2012 искусственные нейросети были, как и раньше, в большей степени предметом интереса научных работников и узких специалистов в области данных. В 2012 нейросети уже показывали впечатляющую результативность - но эти результаты достигались в ограниченном перечне задач и оставались в рамках научных журналов и конференций.
В 2016 успех искусственных нейросетей был ошеломительным, а сфера их применения расширялась буквально не по дням, а по часам. Кажется, что перед данной технологией не существует никаких преград, и она способна справиться с любой работой. Судите сами. Сегодня нейросети распознают человеческий голос и лица, переводят с одного языка на другой, расшифровывают кардиограммы, применяют квантовую химию в исследовании материалов, раскрашивают рисунки, сочиняют рэп, играют в Starcraft и выполняют еще тысячи самых разных заданий, которые только могут прийти в голову любознательному представителю вида homo sapiens.
Интернет стал одной из сфер, в которой открывающиеся возможности принимаются на вооружение наиболее интенсивно. Искусственные нейросети и, шире, технологии машинного обучения безусловно несут в себе потенциал, который позволит развить значение Сети до уровня, который я называю Веб 3.0. А одной из ключевых особенностей Веб 3.0, которая отличает его от предшествующего этапа, как раз и является коренная трансформация системы управления обществом на основе продвинутых цифровых технологий.
Давайте же посмотрим, как именно машинное обучение будет вытеснять из власти бушей, трампов, путиных, медведевых и прочих грешных людей. Правда, чтобы выстроить достаточно широкую картину, нам для начала потребуется обратиться к теории управления.
Чтобы принять то или иное решение, субъект должен получить достаточное количество информации о текущем состоянии объекта управления и внешней среды, а также доступных ресурсах (они задают ограничения по возможности выбора тех или иных решений). Кроме того, у субъекта должна быть информация о том, каким образом его решение повлияет на состояние объекта и доступные ресурсы в будущем. Чем полнее и достовернее информация - тем большей эффективности работы системы может достичь субъект.
Когда мы переходим от теории к практике, и конкретно от «субъекта» к реальным людям из плоти и крови, возникает целый ворох дополнительных проблем. Часть их вытекает из того, что поведение человека в той или иной степени иррационально. Другими словами, эффективность работы системы - далеко не единственный показатель, на который ориентируется принимающий решение homo sapiens. Пресловутый «сон разума» рождает «чудовищ» - самые причудливые заблуждения, предрассудки, фобии, обиды, иллюзии, пренебрежительность, невнимательность и прочая и прочая.
Иллюстрация Жерара Дюбуа
Добавим также конфликт интересов управляющего субъекта и управляемой системы. Первый может действовать вполне рационально с внутренней точки зрения - но это не отменяет негативный эффект такого поведения на систему. «Гордыня, алчность, зависть - Вот в сердцах три жгучих искры, что вовек не дремлют», - писал классик. Злоупотребление служебным положением, коррупция, жажда власти, забота о собственном имидже - всё это характерные черты человеческого управления, заложенные природой homo - хотим мы того или нет.
Поверх всего этого накладываются ограничения более общего характера. Выше мы упоминали о важности управленческой информации в процессе принятия решений. Так вот, именно информация является самым уязвимым элементом в реальной управленческой деятельности. А всё потому, что в нашей Вселенной есть такая неприятная штука, как закон неубывания энтропии.
Понятие энтропии противоположно понятию информации. Если энтропия возрастает - информация уменьшается. А на возрастание энтропии работают и время, и пространство. и длина коммуникационной цепочки. Так что, если мы не предпринимаем никаких мер, столь нужная нам информация необратимо деградирует. Мало того, ведь нам еще и нужно сперва найти эту «столь нужную» информацию. А добыть ее можно, лишь уменьшив энтропию - что, очевидно, совсем непросто.
На более абстрактном уровне особые отличия между «добычей» и «сохранением ценности» практически отсутствуют. Всё опирается на обработку информации. И конкретно - на технологии такой обработки. Впрочем, в нашем случае термин «технологии» может быть не совсем точным. Поскольку вплоть до недавнего времени основную часть обработки осуществлял «биологический компьютер» - сам человек.
Человек - довольно специфический инструмент обработки информации. С какими-то функциями он справляется неплохо, но где-то потолок возможностей «биокомпьютера» оказывается до обидного низким. Как и в многих других сферах жизни, «недостающие» биологические способности человек стремился компенсировать за счет «неживой», материальной культуры.
Например, колоссальным прорывом здесь стало освоение письменности с 4-го тысячелетия до н.э. Письменность в значительной степени преодолевала сразу два крупнейших недостатка «биокомпьютера»: маленькую короткую ненадежную память и малую дальность коммуникаций между субъектами. Подробнее, с точки зрения коммуникаций, этот момент описан в главе « В погоне за устойчивостью».
Долгое время такие «вспомогательные средства» использовались лишь для наиболее простых операций по обработке информации. Вроде ее хранения и передачи, а также примитивных арифметических действий. Однако по мере развития общества потребности в обработке информации постоянно росли. Если быть точным, именно возможности по ее обработке и определяли уровень развития общества. Ведь без достаточной и качественной информации невозможно управлять сложной системой.
Очередной мощный рывок здесь начнется в середине ХХ века, с появлением электронно-вычислительных машин. И этот рывок будет выражаться не только в росте доступных вычислительных ресурсов, но и в том, что ЭВМ способны выполнять более комплексные задачи по обработке информации.
К слову, ЭВМ были не единственным направлением развития. Тогда же, в середине ХХ века оформляются системы государственной статистики, которые уже мало чем отличались от сегодняшних. Любопытно, что один из первых компьютеров, UNIVAC I (1951), был построен как раз для нужд Статистического Бюро США, что подчеркивает тесную связь разных сторон информационного прогресса.
UNIVAC I
Наконец, мы подходим к современной диспозиции. Насколько отодвинут при помощи технических средств предел биологических информационных способностей человека, и, самое главное, по каким направлениям? С 1950-ых годов были достигнуты впечатляющие успехи. Но схема «совместной работы» вплоть до недавнего времени не претерпевала особых изменений.
Вся эта гигантская сложность программных комплексов, которые управляют компьютером, в данной схеме является результатом мысли и труда человека. Иными словами, не так уж много изменилось с момента изобретения первых счёт: технические средства по-прежнему выполняли наиболее примитивные операции. Разве что даваемые человеком инструкции по осуществлению этих операций стали на многие порядки сложнее, а также эффективнее и универсальнее.
Тем не менее, возросшие эффективность и универсальность способны лишь несколько отодвинуть, но никак не преодолеть естественный предел человеческих возможностей. Ведь, чтобы решить ту или иную задачу, человеку необходимо полностью, досконально знать алгоритм ее решения. Причем масштаб задач постоянно растет. Как и тысячи лет назад, именно человек остается «слабым звеном» в обработке информационных потоков. Чтобы «разгрузить» это слабое звено, от машин требуется нечто большее, чем просто слепое следование заранее написанному коду…
Итак, машинное обучение. Как и за счет чего оно раздвигает наши горизонты? Чтобы ответить на этот вопрос, нам стоит обратиться к такому понятию, как размерность данных. Размерность данных - это количество отдельных признаков, которые описывает набор информации, своего рода «богатство» информации. Так вот, возможности человека по восприятию данных большой размерности очень неравномерны. Лучше всего у homo sapiens получается обработка визуальной информации. Взгляните на эту картинку:
Автор фото - askvor44, автор граффити мне неизвестен
Я думаю, все прекрасно разобрали, что на ней изображено. Меж тем, эта картинка имеет разрешение 1936х1936 пикселей - то есть размерность изображения составляет более 3,7 миллионов. Даже если мы сильно сожмем эту картинку в размере (большое количество информации в ней является излишним с точки зрения человеческого восприятия), в ней будет несколько десятков тысяч байт информации.
На один лист А4 в виде текста помещается где-то 2 тысячи байт информации. Таким образом, на прочтение объема информации, эквивалентного картинке с котиком, человек затратит в сотни раз больше времени. Однако письменная речь тоже содержит немало излишней информации. Так что давайте от котиков перейдём к более серьезным вещам. Понятен ли вам будет, скажем, такой формат?
Лично я вряд ли смог бы сформулировать, что именно здесь отражено (на самом деле это данные по динамике отраслевого выпуска РФ в 2003-2011). А ведь размерность этой таблички - всего 14. Более того, здесь практически нет избыточной, повторяющейся информации - следовательно, каждый символ является более ценным. Так вот, даже возврат к визуальному отображению лишь ненамного меняет ситуацию. Если мы берем один признак (пускай в нашем случае это будет обобщающий показатель - ВВП), что-то увидеть можно:
А все 14 признаков одновременно дают такую невразумительную картину:
Меж тем совершенствовалась наука об обработке информации, главным образом это математическая статистика. Математика, в частности, полагалась на то, что особенности человеческого восприятия никак не являются принципиальным ограничением в операциях с данными. И что ценность информации не зависит от того, насколько умело ее воспринимает человек. И на то, что можно работать как с одномерными массивами информации, так и с массивами размерностью в миллионы. Причем работать ровно по тем же правилам.
Правда, в последнем случае человек иногда был скорее помехой, чем помощью. Что ж, тогда участие человека здесь необходимо сокращать. Но остается вопрос организации данной работы. Ведь без организации от нее будет мало толку. А единственным организующим элементом, создавшим все те сложнейшие программно-аппаратные комплексы, прежде был как раз человек.
Следовательно, машине необходимо самостоятельно определять наиболее эффективный образ действий. Машинное обучение и является прикладной дисциплиной, которая занимается определенным направлением самоорганизации программных вычислительных комплексов.
Головокружительные успехи последних лет в этой области связаны с очень важным свойством цифровых обучаемых систем. Дело в том, что они не только гораздо быстрее и эффективнее человека в обработке информации - они еще и гораздо эффективнее в организации собственной работы для этого процесса. Получается своего рода эффективность «второго порядка». И это вполне закономерно: организация - в первую очередь информационный феномен. И если машины «на ты» с информацией, то и с самоорганизацией у них будет легче.
Хорошо, у них-то легче - но в полной мере воспользоваться этим преимуществом пока нельзя. А всё потому, что механизмы машинной самоорганизации придумываются и проектируются опять-таки человеком. Пока мы смогли реализовать только довольно простые такие механизмы, к числу которых относится и машинное обучение в его нынешнем виде. И именно человеку предстоит решить задачу создания более сложных (а значит, способных на большее) алгоритмов самоорганизации.
Всё это звенья одной цепи - цепи, в которой «биологический компьютер» делегировал техносфере всё больше полномочий по обработке информации. Сперва механические арифмометры выполняли элементарные операции. Затем были ЭВМ с гигантским набором заранее написанных инструкций. Теперь машина сама создает инструкции, а человек просто определяет правила, которые руководят ее работой. Для человечества это новый уровень управления обработкой информации. Сейчас машина самостоятельно умеет делать немногое. Но этот уровень обещает нам невероятные перспективы.
Раз уж мы заговорили об обещаниях, самое время вернуться к исходной теме, а именно к управлению в контексте политических/социальных отношений. Решают ли технологии машинного обучения те проблемы, которые проистекают из «человеческого фактора» в политике. И если будут решать, то как именно?
Поскольку ключевым элементом эффективного управления является качественная информация - безусловно, обучаемые системы (нейросети и пр.) должны принести огромную пользу. И на современном этапе всё внимание разработчиков таких систем концентрируется вокруг данных. Более того, ни одно из существующих направлений не показывает большей результативности работы с данными, чем системы с машинным обучением (в частности, те же нейросети). Сейчас цифровые нейросети решают всё более широкий круг задач в коммерческой сфере. А вот в общественно-политической сфере о них практически ничего не слышно. Почему? Ведь именно в организации и управлении сила новых технологий означала бы самый крупный рывок!
В качестве одной из очевидных причин укажем инертность, которая всегда характеризовала эту сферу. И государству, и общественным отношениям свойствен немалый запас консерватизма. Далеко не всегда это является недостатком - но мы просто будем воспринимать его как данность.
Существуют и более интересные факторы. Так, в коммерции гораздо проще измеряется эффективность работы. Самый универсальный показатель - прибыль, которую на определенном горизонте в будущем старается максимизировать менеджмент компании.
А вот обратившись к сфере общественных отношений, мы такого конкретного показателя не найдем. С универсальностью и последовательностью в достижении дело обстоит еще хуже. Мне могут возразить: есть такая базовая вещь, как уровень жизни, есть такая вполне объективная метрика, как экономический рост. Почему бы не использовать их для оценки эффективности работы государства?
Отвечаю: для оценки эффективности экономический рост (и даже более «расплывчатый» уровень жизни) неплохо подойдёт. Проблема возникает, когда эти показатели попытаться применить для целеполагания.
Дональду Трампу я и так уделил немало внимания. Поэтому для примера обратимся к цели, поставленной уже другим национальным лидером в 2003 году: удвоение ВВП на душу за 10 лет. Для чего как раз были нужны высокие темпы роста экономики. В свою очередь, это требовало следующего курса действий:
а) доведение нормы инвестиций в основной капитал до устойчивого высокого уровня (около 30%), главным образом за счет инвестиций в производственный капитал;
б) рост уровня образования граждан, главным образом за счет профессионального образования (человеческий капитал).
На этом пути сразу же поджидают подводные камни. Во-первых, быстрое увеличение нормы инвестиций не даёт ожидаемой прибавки к экономическому росту. Оно чревато неэффективным вложением средств и кризисами. Во-вторых, рост нормы инвестиций при прочих равных сокращает текущее потребление граждан. Здесь предложенные цели «экономического роста» и «уровня жизни» на кратко- и среднесрочном горизонте попросту противоречат друг другу. Надо выбирать либо одно, либо другое. И практика показывает, что обыватель очень неохотно расстается с «сытым настоящим» в пользу «лучшего будущего».
В образовании «директивные методы» работают еще хуже. Заставить человека учиться еще как-то можно, заставить переучиваться - гораздо сложней. А уж что касается переучивания самих учителей... Опять же, расширение в образовательных услугах требует ресурсов и, в конечном счете, всё так же происходит за счет снижения потребления более «насущных» товаров.
Вот такие сложные дилеммы встали перед этим мудрейшим государственным деятелем, и нет ничего удивительного, что он своей цели не достиг - ведь прогресса не было ни по одному из направлений.
А всё-таки, за что мы любим ВВП? Хмм, стоит устранить двойственность контекста… Так будет лучше: за что мы, экономисты, любим показатель валового внутреннего продукта? Прежде всего за то, что он очень эффективно сокращает до единицы размерность гигантского массива данных об экономике страны. В одном-единственном числе заключена информация об итоге работы миллионов граждан за целый год. Да и серию таких чисел, отображенную в виде графика, понять труда не составляет - см. пример выше.
Однако если мы пытаемся целенаправленно управлять системой (особенно такой сложной, как государство), одним показателем не обойтись. Слишком много информации теряется при агрегации данных. Чуть раньше мы упомянули про взаимосвязь инвестиций и потребления - вместе с чистым экспортом эти компоненты и формируют ВВП. То есть нам сразу пришлось перейти от размерности 1 к размерности 2-3, но это было более-менее легко.
Проблема в том, что идти надо дальше, гораздо дальше. Например, еще одна стандартная разбивка ВВП - по отраслям экономики. По международной методике таковых насчитывается 21. Помните тот малочитаемый график, на котором отложена динамика 14 из них одновременно? А ведь на самом деле ситуация еще хуже: поскольку каждая из отраслей весьма сложным образом связана с остальными. Как попытаться учесть все эти зависимости? Но и это не всё: та же стандартная классификация отраслей предусматривает дальнейшую детализацию - 88 подразделов, 238 групп и 419 подгрупп. На практике приходится учитывать и дополнительные признаки: географическое распределение, группировку по размеру предприятий, по форме собственности и так далее…
Великобритания. Это лишь первый уровень детализации.
А теперь вернемся к исходной задаче. Нам необходимо удвоить ВВП на душу населения. Но каким образом этого достичь? Какие решения принимать? Когда мы знакомились с теорией, мы отмечали, что для эффективного управления необходимо иметь информацию о будущем исходе тех или иных решений в различных начальных ситуациях. И вот как раз с этой информацией дела обстоят наиболее плачевно. Ведь здесь размерность вводных данных умножается на число возможных действий управляющего субъекта.
Представьте себе, что мы находимся в незнакомой местности, и перед нами стоит задача выйти в определенную точку «А». Только в нашем распоряжении - ни GPS-навигатора, ни бумажной карты, ни даже хронометра и примитивного секстанта - а только один компас. И теперь представьте, что измерений не 2 (оси север-юг и запад-восток) - а тысячи!
Конечно, представить себе тысячи измерений наглядно не получится, но именно в таком невероятно сложном пространстве и приходится действовать. Аналогом компаса в наших руках служат нехитрые экономические правила и наблюдения. Вроде: «снизишь налоги для отрасли - она начнет работать бодрее». Или: «подкинешь предприятию 17 миллиардов - оно не обанкротится в ближайший год». Компас вроде и указывает какое-то общее направление, плюс-минус неопределенность, - но ведет к искомой точке «А» порой чересчур кривыми тропинками, а то и вовсе заводит в тупики.
Кроме того, там, где существует «плюс-минус неопределенность», всегда появляется пространство для разнообразного лоббирования, коррупции и прочих теневых схем. И чем больше неопределенности - тем шире это пространство. Потому что выгода для системы - она «где-то там», неизвестно где, в «тумане войны». А личная или корпоративная выгода - вот она, рядом, только руку протяни… Вот где хорошо видно различие в степени чёткости целей коммерческой фирмы и государства.
Казалось бы, почему "стрелка компаса" упорно показывает в сторону "Газпрома"?..
Ситуация едва ли выглядит лучше, если мы обратимся к более «простым» данным - информации о текущем состоянии системы и внешней среды, да и с данными по имеющимся ресурсам не всё гладко. Когда-то с целью сбора этой информации были созданы централизованные государственные статистические агентства. В своё время их вклад позволил существенно поднять качество государственного управления, и, соответственно, добиться социального прогресса. Но последние лет пятьдесят методы работы статистических ведомств практически не менялись. И ограничения, характерные для этих методов, вряд ли позволят эффективности управления расти дальше.
Возьмем главный «продукт» работы органов статистики - показатели, рассчитанные на основе сплошного наблюдения хозяйствующих субъектов. У нас существует расхожая и в то же время очень ёмкая фраза: «средняя температура по больнице». Это выражением родом из старого анекдота, а не из реальных статистических форм, но суть оно передает верно. После всех сведений и усреднений полезная информация в итоговом показателе может почти полностью потеряться. И ведь никуда не денешься: большая размерность - плохо, люди физически не в состоянии её воспринимать. Малая размерность - тоже плохо: теряется важная информация.
Κυβέρνησος ἐσχατιαί / Горизонты управления
[Список статей цикла]
Вы можете пояснить, что здесь имелось в виду?
Майкл Д'Антонио: Он никогда не был топ-менеджером, который был бы вовлечен в каждодневную работу сложного предприятия с большим числом работников. Когда несколько раз он пытался этим заниматься, он терпел неудачу - его управление казино и авиалиниями являются убедительным примером этого. Он не смог сделать эти направления успешными на долгом промежутке времени.
Он предпочитает совершать сделки, предпочитает яркие, сияющие моменты. Это подсказывает мне, что государство будет в руках людей, которых он назначил. Но как это сработает, еще предстоит выяснить. Поскольку рано или поздно президенту приходится столкнуться с вопросом: насколько хорошо у нас идут дела?
Иллинг: Поэтому Вы думаете, что он будет больше озабочен своим рейтингом, чем проведением политики; и именно первое будет определять принимаемые решения?
Д'Антонио: Да, я думаю, это верно. Я думаю, что он будет гораздо более сосредоточен на церемониальных аспектах президентства, на аплодисментах, звучащих, когда он появляется на публике. И если это потребует каких-то поощрений для аплодирующих или «засланных казачков» в толпе - то здесь Трамп будет в своей стихии.
Для меня странно, что он хочет появиться, как 70-летняя звезда ночных клубов, и выступить про всё, что сейчас происходит, а затем исполнить свои лучшие хиты - что сводится к перечислению своих прошлых побед. И он считает, что этого достаточно. Это всё пустое и чисто символическое, но именно это он делает и так руководит. <…>
Также я думаю, что он раздражается и даже впадает в ярость, когда кто-то сверяется с фактами и ищет доказательства, чтобы подтвердить или опровергнуть его заявления. Он считает, что ему просто можно говорить вещи, и эти вещи должны быть приняты и распространены некритически. Поэтому он возмущается, когда люди поступают не так и вместо этого оценивают его по тем или иным стандартам. И он воспринимает это как персональный выпад. <…>
Иллинг: Звучит не очень успокаивающе, Майкл. Человек, которого собственная эмоциональная неуверенность заставляет кидаться во все стороны - не тот, кому хочется доверить ядерные коды.
Д'Антонио: Смотрите: проблема в том, что ему надо выиграть сразу на многих полях - больше, чем любой человек может ожидать от себя. И он использует игровые уловки вместо результативности, чтобы добиться своей цели. Если вы делаете это достаточно долго, как вы вообще можете быть уверены, что выиграли благодаря своим положительным качествам? Он всегда выигрывает, подтасовывая результат в свою пользу - но вы ничего не узнаете о себе таким образом. Если вы что-то узнаете - это то, что вы обманщик, а не обладаете талантом или способностями. <…>
Иллинг: Как Вы смотрите на его войну с прессой? Под каким углом?
Д'Антонио: Он хочет делигитимизировать все источники информации за исключением себя самого. Если кто-то противоречит ему, включая мейнстримные СМИ, он должен уничтожить доверие к ним, чтобы иметь основания утверждать, что его несправедливо атакуют.
Вот так он действует, так относится к СМИ. Обычные правила для него всегда слишком трудные. Если он принимает участие в споре на основе рациональных, основанных на фактах аргументах - это гораздо сложнее, чем жаловаться на то, что на него нападают, и затем говорить, что ты ответишь в 10 раз сильнее, потому что не собираешься этого терпеть.
Иллинг: Как Вы думаете, для Трампа правда имеет ценность? Насколько я могу судить, всё - игра, где есть победители и проигравшие; и он должен быть победителем - вот и все.
Д'Антонио: Я думаю, что, если правда ему неугодна - она не имеет для него ценности. Поэтому когда он думал, что проигрывает на выборах, выборы были нечестными. А потом, когда он выиграл - конечно, они не были нечестными. Это всё ситуационные моменты, здесь нет внутренней приверженности каким-либо фактам.
Иллинг: Если ты заботишься о правде только тогда, когда она тешит твое самолюбие - значит, тебя не интересует правда. Опять же, наблюдать такое свойство в главнокомандующем - страшновато.
Д'Антонио: Верно, и что бросается в глаза - так это то, что Трамп крайне неохотно учится новым вещам, если они противоречат его имеющимся предубеждениям. Он не пускается в двусторонние обсуждения фактов с собеседником, или, по крайней мере, никогда не делал этого в моём присутствии. Это всегда были заявления, которые следовали за заявлениями.»
...Вот такая любопытная беседа. Майкл Д'Антонио, к слову - автор книги-биографии Д. Трампа, и обвинять его в фантазировании или предвзятости у меня нет совершенно никаких оснований. Что ж, Америку можно поздравить: теперь ей руководит любитель шоу с болезненным самолюбием, который совсем не дружит с реальностью.
Кто-то может напомнить мне про Джорджа Буша-младшего, тоже не отличавшегося блистательным интеллектом. Кто-то пожмёт плечами: мол, американцы сами выбрали себе такого президента - значит, они его достойны. Кто-то будет злорадствовать: мы же говорили - «Америке конец!», вот сейчас их новый президент и наломает дров. Последняя позиция, на мой взгляд, вряд ли уместна. Слишком тесно сейчас все мы связаны в глобальном мире, и неурядицы в одной из крупнейших экономик порождают такие волны, что могут вовсе опрокинуть более слабые страны. 2008 год был очень показательным примером.
А вот с остальным придётся согласиться. Хотя мне - пускай я и живу в другой стране - не особо нравятся персонажи уровня бушей и трампов во главе сильнейшего государства. Обидно не то что «за державу» - а сразу за всё наше человечество. Но, поскольку просто обижаться - неконструктивно, я попробую рассказать про альтернативу сложившимся политическим моделям. Хотя, в отличие от них, эта альтернатива еще не успела сложиться и ждет нас только в будущем.
Насколько близком? Вряд ли кто-то может дать сейчас ответ. Но можно быть уверенным в том, что в 2016 это будущее стало гораздо ближе, чем было, скажем, в 2012. И дело здесь не только в календарной дате и уж совсем не в исходе американских президентских выборов.
В 2012 искусственные нейросети были, как и раньше, в большей степени предметом интереса научных работников и узких специалистов в области данных. В 2012 нейросети уже показывали впечатляющую результативность - но эти результаты достигались в ограниченном перечне задач и оставались в рамках научных журналов и конференций.
В 2016 успех искусственных нейросетей был ошеломительным, а сфера их применения расширялась буквально не по дням, а по часам. Кажется, что перед данной технологией не существует никаких преград, и она способна справиться с любой работой. Судите сами. Сегодня нейросети распознают человеческий голос и лица, переводят с одного языка на другой, расшифровывают кардиограммы, применяют квантовую химию в исследовании материалов, раскрашивают рисунки, сочиняют рэп, играют в Starcraft и выполняют еще тысячи самых разных заданий, которые только могут прийти в голову любознательному представителю вида homo sapiens.
Интернет стал одной из сфер, в которой открывающиеся возможности принимаются на вооружение наиболее интенсивно. Искусственные нейросети и, шире, технологии машинного обучения безусловно несут в себе потенциал, который позволит развить значение Сети до уровня, который я называю Веб 3.0. А одной из ключевых особенностей Веб 3.0, которая отличает его от предшествующего этапа, как раз и является коренная трансформация системы управления обществом на основе продвинутых цифровых технологий.
Давайте же посмотрим, как именно машинное обучение будет вытеснять из власти бушей, трампов, путиных, медведевых и прочих грешных людей. Правда, чтобы выстроить достаточно широкую картину, нам для начала потребуется обратиться к теории управления.
Чтобы принять то или иное решение, субъект должен получить достаточное количество информации о текущем состоянии объекта управления и внешней среды, а также доступных ресурсах (они задают ограничения по возможности выбора тех или иных решений). Кроме того, у субъекта должна быть информация о том, каким образом его решение повлияет на состояние объекта и доступные ресурсы в будущем. Чем полнее и достовернее информация - тем большей эффективности работы системы может достичь субъект.
Когда мы переходим от теории к практике, и конкретно от «субъекта» к реальным людям из плоти и крови, возникает целый ворох дополнительных проблем. Часть их вытекает из того, что поведение человека в той или иной степени иррационально. Другими словами, эффективность работы системы - далеко не единственный показатель, на который ориентируется принимающий решение homo sapiens. Пресловутый «сон разума» рождает «чудовищ» - самые причудливые заблуждения, предрассудки, фобии, обиды, иллюзии, пренебрежительность, невнимательность и прочая и прочая.
Иллюстрация Жерара Дюбуа
Добавим также конфликт интересов управляющего субъекта и управляемой системы. Первый может действовать вполне рационально с внутренней точки зрения - но это не отменяет негативный эффект такого поведения на систему. «Гордыня, алчность, зависть - Вот в сердцах три жгучих искры, что вовек не дремлют», - писал классик. Злоупотребление служебным положением, коррупция, жажда власти, забота о собственном имидже - всё это характерные черты человеческого управления, заложенные природой homo - хотим мы того или нет.
Поверх всего этого накладываются ограничения более общего характера. Выше мы упоминали о важности управленческой информации в процессе принятия решений. Так вот, именно информация является самым уязвимым элементом в реальной управленческой деятельности. А всё потому, что в нашей Вселенной есть такая неприятная штука, как закон неубывания энтропии.
Понятие энтропии противоположно понятию информации. Если энтропия возрастает - информация уменьшается. А на возрастание энтропии работают и время, и пространство. и длина коммуникационной цепочки. Так что, если мы не предпринимаем никаких мер, столь нужная нам информация необратимо деградирует. Мало того, ведь нам еще и нужно сперва найти эту «столь нужную» информацию. А добыть ее можно, лишь уменьшив энтропию - что, очевидно, совсем непросто.
На более абстрактном уровне особые отличия между «добычей» и «сохранением ценности» практически отсутствуют. Всё опирается на обработку информации. И конкретно - на технологии такой обработки. Впрочем, в нашем случае термин «технологии» может быть не совсем точным. Поскольку вплоть до недавнего времени основную часть обработки осуществлял «биологический компьютер» - сам человек.
Человек - довольно специфический инструмент обработки информации. С какими-то функциями он справляется неплохо, но где-то потолок возможностей «биокомпьютера» оказывается до обидного низким. Как и в многих других сферах жизни, «недостающие» биологические способности человек стремился компенсировать за счет «неживой», материальной культуры.
Например, колоссальным прорывом здесь стало освоение письменности с 4-го тысячелетия до н.э. Письменность в значительной степени преодолевала сразу два крупнейших недостатка «биокомпьютера»: маленькую короткую ненадежную память и малую дальность коммуникаций между субъектами. Подробнее, с точки зрения коммуникаций, этот момент описан в главе « В погоне за устойчивостью».
Долгое время такие «вспомогательные средства» использовались лишь для наиболее простых операций по обработке информации. Вроде ее хранения и передачи, а также примитивных арифметических действий. Однако по мере развития общества потребности в обработке информации постоянно росли. Если быть точным, именно возможности по ее обработке и определяли уровень развития общества. Ведь без достаточной и качественной информации невозможно управлять сложной системой.
Очередной мощный рывок здесь начнется в середине ХХ века, с появлением электронно-вычислительных машин. И этот рывок будет выражаться не только в росте доступных вычислительных ресурсов, но и в том, что ЭВМ способны выполнять более комплексные задачи по обработке информации.
К слову, ЭВМ были не единственным направлением развития. Тогда же, в середине ХХ века оформляются системы государственной статистики, которые уже мало чем отличались от сегодняшних. Любопытно, что один из первых компьютеров, UNIVAC I (1951), был построен как раз для нужд Статистического Бюро США, что подчеркивает тесную связь разных сторон информационного прогресса.
UNIVAC I
Наконец, мы подходим к современной диспозиции. Насколько отодвинут при помощи технических средств предел биологических информационных способностей человека, и, самое главное, по каким направлениям? С 1950-ых годов были достигнуты впечатляющие успехи. Но схема «совместной работы» вплоть до недавнего времени не претерпевала особых изменений.
Вся эта гигантская сложность программных комплексов, которые управляют компьютером, в данной схеме является результатом мысли и труда человека. Иными словами, не так уж много изменилось с момента изобретения первых счёт: технические средства по-прежнему выполняли наиболее примитивные операции. Разве что даваемые человеком инструкции по осуществлению этих операций стали на многие порядки сложнее, а также эффективнее и универсальнее.
Тем не менее, возросшие эффективность и универсальность способны лишь несколько отодвинуть, но никак не преодолеть естественный предел человеческих возможностей. Ведь, чтобы решить ту или иную задачу, человеку необходимо полностью, досконально знать алгоритм ее решения. Причем масштаб задач постоянно растет. Как и тысячи лет назад, именно человек остается «слабым звеном» в обработке информационных потоков. Чтобы «разгрузить» это слабое звено, от машин требуется нечто большее, чем просто слепое следование заранее написанному коду…
Итак, машинное обучение. Как и за счет чего оно раздвигает наши горизонты? Чтобы ответить на этот вопрос, нам стоит обратиться к такому понятию, как размерность данных. Размерность данных - это количество отдельных признаков, которые описывает набор информации, своего рода «богатство» информации. Так вот, возможности человека по восприятию данных большой размерности очень неравномерны. Лучше всего у homo sapiens получается обработка визуальной информации. Взгляните на эту картинку:
Автор фото - askvor44, автор граффити мне неизвестен
Я думаю, все прекрасно разобрали, что на ней изображено. Меж тем, эта картинка имеет разрешение 1936х1936 пикселей - то есть размерность изображения составляет более 3,7 миллионов. Даже если мы сильно сожмем эту картинку в размере (большое количество информации в ней является излишним с точки зрения человеческого восприятия), в ней будет несколько десятков тысяч байт информации.
На один лист А4 в виде текста помещается где-то 2 тысячи байт информации. Таким образом, на прочтение объема информации, эквивалентного картинке с котиком, человек затратит в сотни раз больше времени. Однако письменная речь тоже содержит немало излишней информации. Так что давайте от котиков перейдём к более серьезным вещам. Понятен ли вам будет, скажем, такой формат?
Лично я вряд ли смог бы сформулировать, что именно здесь отражено (на самом деле это данные по динамике отраслевого выпуска РФ в 2003-2011). А ведь размерность этой таблички - всего 14. Более того, здесь практически нет избыточной, повторяющейся информации - следовательно, каждый символ является более ценным. Так вот, даже возврат к визуальному отображению лишь ненамного меняет ситуацию. Если мы берем один признак (пускай в нашем случае это будет обобщающий показатель - ВВП), что-то увидеть можно:
А все 14 признаков одновременно дают такую невразумительную картину:
Меж тем совершенствовалась наука об обработке информации, главным образом это математическая статистика. Математика, в частности, полагалась на то, что особенности человеческого восприятия никак не являются принципиальным ограничением в операциях с данными. И что ценность информации не зависит от того, насколько умело ее воспринимает человек. И на то, что можно работать как с одномерными массивами информации, так и с массивами размерностью в миллионы. Причем работать ровно по тем же правилам.
Правда, в последнем случае человек иногда был скорее помехой, чем помощью. Что ж, тогда участие человека здесь необходимо сокращать. Но остается вопрос организации данной работы. Ведь без организации от нее будет мало толку. А единственным организующим элементом, создавшим все те сложнейшие программно-аппаратные комплексы, прежде был как раз человек.
Следовательно, машине необходимо самостоятельно определять наиболее эффективный образ действий. Машинное обучение и является прикладной дисциплиной, которая занимается определенным направлением самоорганизации программных вычислительных комплексов.
Головокружительные успехи последних лет в этой области связаны с очень важным свойством цифровых обучаемых систем. Дело в том, что они не только гораздо быстрее и эффективнее человека в обработке информации - они еще и гораздо эффективнее в организации собственной работы для этого процесса. Получается своего рода эффективность «второго порядка». И это вполне закономерно: организация - в первую очередь информационный феномен. И если машины «на ты» с информацией, то и с самоорганизацией у них будет легче.
Хорошо, у них-то легче - но в полной мере воспользоваться этим преимуществом пока нельзя. А всё потому, что механизмы машинной самоорганизации придумываются и проектируются опять-таки человеком. Пока мы смогли реализовать только довольно простые такие механизмы, к числу которых относится и машинное обучение в его нынешнем виде. И именно человеку предстоит решить задачу создания более сложных (а значит, способных на большее) алгоритмов самоорганизации.
Всё это звенья одной цепи - цепи, в которой «биологический компьютер» делегировал техносфере всё больше полномочий по обработке информации. Сперва механические арифмометры выполняли элементарные операции. Затем были ЭВМ с гигантским набором заранее написанных инструкций. Теперь машина сама создает инструкции, а человек просто определяет правила, которые руководят ее работой. Для человечества это новый уровень управления обработкой информации. Сейчас машина самостоятельно умеет делать немногое. Но этот уровень обещает нам невероятные перспективы.
Раз уж мы заговорили об обещаниях, самое время вернуться к исходной теме, а именно к управлению в контексте политических/социальных отношений. Решают ли технологии машинного обучения те проблемы, которые проистекают из «человеческого фактора» в политике. И если будут решать, то как именно?
Поскольку ключевым элементом эффективного управления является качественная информация - безусловно, обучаемые системы (нейросети и пр.) должны принести огромную пользу. И на современном этапе всё внимание разработчиков таких систем концентрируется вокруг данных. Более того, ни одно из существующих направлений не показывает большей результативности работы с данными, чем системы с машинным обучением (в частности, те же нейросети). Сейчас цифровые нейросети решают всё более широкий круг задач в коммерческой сфере. А вот в общественно-политической сфере о них практически ничего не слышно. Почему? Ведь именно в организации и управлении сила новых технологий означала бы самый крупный рывок!
В качестве одной из очевидных причин укажем инертность, которая всегда характеризовала эту сферу. И государству, и общественным отношениям свойствен немалый запас консерватизма. Далеко не всегда это является недостатком - но мы просто будем воспринимать его как данность.
Существуют и более интересные факторы. Так, в коммерции гораздо проще измеряется эффективность работы. Самый универсальный показатель - прибыль, которую на определенном горизонте в будущем старается максимизировать менеджмент компании.
А вот обратившись к сфере общественных отношений, мы такого конкретного показателя не найдем. С универсальностью и последовательностью в достижении дело обстоит еще хуже. Мне могут возразить: есть такая базовая вещь, как уровень жизни, есть такая вполне объективная метрика, как экономический рост. Почему бы не использовать их для оценки эффективности работы государства?
Отвечаю: для оценки эффективности экономический рост (и даже более «расплывчатый» уровень жизни) неплохо подойдёт. Проблема возникает, когда эти показатели попытаться применить для целеполагания.
Дональду Трампу я и так уделил немало внимания. Поэтому для примера обратимся к цели, поставленной уже другим национальным лидером в 2003 году: удвоение ВВП на душу за 10 лет. Для чего как раз были нужны высокие темпы роста экономики. В свою очередь, это требовало следующего курса действий:
а) доведение нормы инвестиций в основной капитал до устойчивого высокого уровня (около 30%), главным образом за счет инвестиций в производственный капитал;
б) рост уровня образования граждан, главным образом за счет профессионального образования (человеческий капитал).
На этом пути сразу же поджидают подводные камни. Во-первых, быстрое увеличение нормы инвестиций не даёт ожидаемой прибавки к экономическому росту. Оно чревато неэффективным вложением средств и кризисами. Во-вторых, рост нормы инвестиций при прочих равных сокращает текущее потребление граждан. Здесь предложенные цели «экономического роста» и «уровня жизни» на кратко- и среднесрочном горизонте попросту противоречат друг другу. Надо выбирать либо одно, либо другое. И практика показывает, что обыватель очень неохотно расстается с «сытым настоящим» в пользу «лучшего будущего».
В образовании «директивные методы» работают еще хуже. Заставить человека учиться еще как-то можно, заставить переучиваться - гораздо сложней. А уж что касается переучивания самих учителей... Опять же, расширение в образовательных услугах требует ресурсов и, в конечном счете, всё так же происходит за счет снижения потребления более «насущных» товаров.
Вот такие сложные дилеммы встали перед этим мудрейшим государственным деятелем, и нет ничего удивительного, что он своей цели не достиг - ведь прогресса не было ни по одному из направлений.
А всё-таки, за что мы любим ВВП? Хмм, стоит устранить двойственность контекста… Так будет лучше: за что мы, экономисты, любим показатель валового внутреннего продукта? Прежде всего за то, что он очень эффективно сокращает до единицы размерность гигантского массива данных об экономике страны. В одном-единственном числе заключена информация об итоге работы миллионов граждан за целый год. Да и серию таких чисел, отображенную в виде графика, понять труда не составляет - см. пример выше.
Однако если мы пытаемся целенаправленно управлять системой (особенно такой сложной, как государство), одним показателем не обойтись. Слишком много информации теряется при агрегации данных. Чуть раньше мы упомянули про взаимосвязь инвестиций и потребления - вместе с чистым экспортом эти компоненты и формируют ВВП. То есть нам сразу пришлось перейти от размерности 1 к размерности 2-3, но это было более-менее легко.
Проблема в том, что идти надо дальше, гораздо дальше. Например, еще одна стандартная разбивка ВВП - по отраслям экономики. По международной методике таковых насчитывается 21. Помните тот малочитаемый график, на котором отложена динамика 14 из них одновременно? А ведь на самом деле ситуация еще хуже: поскольку каждая из отраслей весьма сложным образом связана с остальными. Как попытаться учесть все эти зависимости? Но и это не всё: та же стандартная классификация отраслей предусматривает дальнейшую детализацию - 88 подразделов, 238 групп и 419 подгрупп. На практике приходится учитывать и дополнительные признаки: географическое распределение, группировку по размеру предприятий, по форме собственности и так далее…
Великобритания. Это лишь первый уровень детализации.
А теперь вернемся к исходной задаче. Нам необходимо удвоить ВВП на душу населения. Но каким образом этого достичь? Какие решения принимать? Когда мы знакомились с теорией, мы отмечали, что для эффективного управления необходимо иметь информацию о будущем исходе тех или иных решений в различных начальных ситуациях. И вот как раз с этой информацией дела обстоят наиболее плачевно. Ведь здесь размерность вводных данных умножается на число возможных действий управляющего субъекта.
Представьте себе, что мы находимся в незнакомой местности, и перед нами стоит задача выйти в определенную точку «А». Только в нашем распоряжении - ни GPS-навигатора, ни бумажной карты, ни даже хронометра и примитивного секстанта - а только один компас. И теперь представьте, что измерений не 2 (оси север-юг и запад-восток) - а тысячи!
Конечно, представить себе тысячи измерений наглядно не получится, но именно в таком невероятно сложном пространстве и приходится действовать. Аналогом компаса в наших руках служат нехитрые экономические правила и наблюдения. Вроде: «снизишь налоги для отрасли - она начнет работать бодрее». Или: «подкинешь предприятию 17 миллиардов - оно не обанкротится в ближайший год». Компас вроде и указывает какое-то общее направление, плюс-минус неопределенность, - но ведет к искомой точке «А» порой чересчур кривыми тропинками, а то и вовсе заводит в тупики.
Кроме того, там, где существует «плюс-минус неопределенность», всегда появляется пространство для разнообразного лоббирования, коррупции и прочих теневых схем. И чем больше неопределенности - тем шире это пространство. Потому что выгода для системы - она «где-то там», неизвестно где, в «тумане войны». А личная или корпоративная выгода - вот она, рядом, только руку протяни… Вот где хорошо видно различие в степени чёткости целей коммерческой фирмы и государства.
Казалось бы, почему "стрелка компаса" упорно показывает в сторону "Газпрома"?..
Ситуация едва ли выглядит лучше, если мы обратимся к более «простым» данным - информации о текущем состоянии системы и внешней среды, да и с данными по имеющимся ресурсам не всё гладко. Когда-то с целью сбора этой информации были созданы централизованные государственные статистические агентства. В своё время их вклад позволил существенно поднять качество государственного управления, и, соответственно, добиться социального прогресса. Но последние лет пятьдесят методы работы статистических ведомств практически не менялись. И ограничения, характерные для этих методов, вряд ли позволят эффективности управления расти дальше.
Возьмем главный «продукт» работы органов статистики - показатели, рассчитанные на основе сплошного наблюдения хозяйствующих субъектов. У нас существует расхожая и в то же время очень ёмкая фраза: «средняя температура по больнице». Это выражением родом из старого анекдота, а не из реальных статистических форм, но суть оно передает верно. После всех сведений и усреднений полезная информация в итоговом показателе может почти полностью потеряться. И ведь никуда не денешься: большая размерность - плохо, люди физически не в состоянии её воспринимать. Малая размерность - тоже плохо: теряется важная информация.
Κυβέρνησος ἐσχατιαί / Горизонты управления
[Список статей цикла]
- Стать #хэштегом
- Титаны эпохи
- Их мир
- Виртуальная свобода
- "Если знаешь место боя..."
- Декомпиляция Матрицы
- Дочери офицеров против Исламского Халифата
- Как "Искренний голос" стал еще искреннее
- Уничтожая доверие
- Силы финансового притяжения
- "А зачем им деньги?.."
- Свет на дне колодца
- Кролики голосуют за Дарта Вейдера!
- Объединяй и властвуй
- Кто победит Катю Андрееву?
- Высшая ценность
- В погоне за устойчивостью
- Вавилонская Башня 2.0
- Размерность имеет значение!
- Знание победит
- Электронная Немезида
- Обреченный быть константой
- Инженерия человеческих душ
Логика прогресса
Бремя первых- Фактор страха
- Гипнотическая улыбка капитализма
- Утро, XXI век
- Баттлы по фактам в эпоху Веб 3.0
- Плод раздора, плод надежды
- Сколько в тебе правды?
- Списки смерти
- Terrorists Win!