Фактор страха: giovanni1313

giovanni1313

Фактор страха

Jun 12, 2018 13:34

Продолжим рассмотрение китайской системы социального кредита (ССК). Мы уже обсудили отдельные особенности и недостатки некоторых элементов, из которых будет складываться система. И пришли к выводу, что пилотные проекты, которые реализовывались на местном уровне, страдали от многочисленных несовершенств.

Так, одна из первых ССК, запущенных в уезде Суйнин, после шквала критики была попросту свёрнута. Но и отсюда мы можем вынести хороший урок. Ключевым элементом, обеспечивающим устойчивость и качество работы Веба 3.0, должны стать обратные связи. Тысячи и тысячи обратных связей, как внутри новой системы, так и за ее пределами, поддерживающие организационную сложность на достигнутом уровне. Благо цифровой мир предоставляет ранее недоступные возможности по интеграции столь сложного набора связей в единое целое.

И с этим же связано другое обязательное свойство Веба 3.0: гибкость. Все социальные системы являются в той или иной степени динамическими, но новый Веб должен положить принцип гибкости в основу своей архитектуры. Преимущество Веба 3.0 еще и в его способности быстро эволюционировать - ведь наше знание тоже постоянно эволюционирует, требуя соответствующих изменений в социальной системе.

Надо отдать должное китайским местным ССК - они старались учитывать ошибки Суйнина. Систему социального кредита г. Жунчэн, запущенная в 2013, власть сейчас считает образцовой. Познакомимся с ней подробнее - в апреле журнал «Форин Полиси» опубликовал посвященную ей статью.

Итак, изначально каждому жителю города присваивается 1000 очков. Штраф за нарушение ПДД снимает 5 очков. Награды городского уровня (например, за акт героизма, создание выдающегося бизнеса или помощь семье в очень тяжелой ситуации) - плюс 30 очков. Более «мелкие» награды - плюс 5 очков. Очки также можно получить за благотворительность или волонтерскую работу.

Доска почета в г. Жунчэн
В зависимости от текущего количества баллов каждому гражданину присваивается рейтинг: от «А+++» до «D». Скажем, езда в пьяном виде понижает рейтинг до «С». Те же, кто добрался до самой вершины социального рейтинга, получают определенные преимущества: более низкую ставку по банковским ссудам, субсидию на отопление размером $50 за сезон или льготы по прокату муниципальных велосипедов. Похожая система поощрений и наказаний существует для бизнеса.

Примитивненько? Одномерненько? Да, всё так. Добавим, что каждое изменение баллов требует официальных документов для подтверждения того или иного факта. То есть система оказывается полностью опутана неповоротливыми бюрократическими процедурами.

Подобная одномерная схема в состоянии отделить откровенных хулиганов от добропорядочных членов общества, но не более того. 90% населения Жунчэна имеют обычный рейтинг «А». Вряд ли городские власти узнали нечто новое о своих жителях. И, конечно, такой информации совсем недостаточно, чтобы реализовывать какие-то серьезные инициативы.

Тем не менее, в рамках тех задач, которые решает проект - мотивация социально приемлемого поведения - мы можем отметить удачное решение: репрессивные меры в ней налагаются только за нарушение закона. Жунчэн использует новую технологию очень осторожно - и в условиях слабых институтов и многочисленных недостатков выстраиваемой системы это может оказаться мудрым подходом.

Стойка отдела ССК в муниципальном центре обслуживания г. Жунчэн
Интересной особенностью ССК Жунчэна является фрактальность: на основе городской схемы свои независимые системы создают отдельные районы, поселки, школы, больницы и т. п. Они могут устанавливать свои критерии, влияющие на величину социального кредита. Так, один из городских районов, в котором проживает 5 тысяч семей, был поделен на блоки из 300 семей, за каждый из которых отвечает своя команда уполномоченных. К списку наказуемых деяний район добавил незаконное продвижение религий.

В сельской местности людей волнуют более традиционные ценности. Например, исполнение своих обязанностей по уходу за пожилыми родителями и добрые отношения с соседями. Напомню, что первое требование закреплено юридически: в 2013 в Китае был принят закон, обязывающий детей часто посещать своих родителей, под угрозой штрафов и даже тюремного срока.

Подобная атомизация частей системы (в т. ч. и по географическому признаку) является вполне приемлемым путем, обеспечивающим предпосылки для роста сложности. Но важно понимать, что не атомизация сама по себе, а интеграция разных элементов в целостную информационную общность является залогом развития Веба 3.0. Добавим сюда необходимость быстрого и беспрепятственного горизонтального и вертикального трансфера лучших практик, что может быть достигнуто только при весомом участии агентов знания в организационных процессах автономных элементов системы.

Другая важная проблема - это участие людей в оценке членов своей группы. Этот механизм в той или иной степени может быть задействован в Вебе 3.0, но ему присущ целый ряд искажений, подробно изученных в рамках групповой динамики. Возникающие конфликты между интересами личности и группы - это среда, в которой остается очень мало места для знания. Соответственно, подобная оценка обязательно должна дополняться постоянно совершенствующейся системой алгоритмов, сводящей «человеческий фактор» к минимуму.

Несмотря на свою примитивность и целый ряд фундаментальных недочетов, ССК Жунчэна, похоже, даёт свои плоды. Так, городские водители стали останавливаться у пешеходных переходов, пропуская людей - зрелище, невиданное в других частях страны. Вы считаете это невеликим достижением? Возможно, так оно есть. Но горожане, опрошенные корреспондентом «Форин Полиси», единодушно заявляют, что с новой системой их жизнь стала меняться к лучшему.

Подобные наивные представления демонстрируют еще одну проблему. Мало того, что данная система должна работать исключительно на рациональных основах, опираясь на объективное знание. Мало того, что «общественную гармонию» необходимо поверять алгеброй - то есть квантифицировать все явления, чтобы иметь четкие критерии. Нужно еще, чтобы эти стройные выкладки были полностью доступны для всех. Система, регулирующая общественные отношения, обязана иметь полностью прозрачные механизмы работы.

Это вытекает из концепции асимметричности информации. Та сторона, которая владеет информацией, недоступной другим, будет использовать данную информацию в ущерб интересам других сторон. Согласитесь, гармоничными такие отношения не назовешь - более того, этот конфликт чреват снижением устойчивости общественной системы.

В нашем случае более осведомленная сторона - государство - уже имеет значительное преимущество над гражданами; ССК в разрабатываемом варианте грозит еще больше усилить этот дисбаланс. Внедрение прозрачности является наиболее надежным средством для устранения этой проблемы.

Степень прозрачности того или иного элемента Веба 3.0 должна быть пропорциональна степени его влияния на систему. Только так могут быть сбалансированы интересы участников самого разного характера. И с этой точки зрения дизайн ССК видится крайне неудачным: по сути, здесь планируется резкий рост доступности информации о гражданине без усиления его политических прав и без опережающего роста открытости правительственных структур.

Более того, пока гражданам и вовсе отказывают в доступе к знанию Веба 3.0: планируется, что ССК в полной мере будет использоваться властью и бизнесом. Причем в ряде случаев бизнес может получить информацию о гражданине только с согласия последнего. Это может стать экстремальным примером асимметричности информации: государство будет знать об обществе всё, а общество - только то, что власть сочтёт нужным.

Это извращает сам смысл развития нового Веба как более совершенной формы гражданского общества, как более совершенного инструмента общественной самоорганизации и общественного контроля. Очевидно, что самый ответственный контроль требуется над наиболее важными и сложными социальными структурами, каковой сейчас является государственный аппарат. Именно это должно быть приоритетом при формировании механизмов Веба 3.0.

Требования к прозрачности государственных и коммерческих участников Веба 3.0 неизбежно будут наталкиваться на сопротивление. Существующие практики их работы чувствительны к прозрачности: речь идет о потере части власти и/или прибыли. Прекрасный пример нам дает сам Китай. Там решение о выдаче интернет-компаниям лицензий на кредитный скоринг так и не было принято. Оказалось, что компании не желают следовать выдвинутому Партией лозунгу о «раскрытии и взаимном обмене информационными ресурсами» - т. е. делиться с конкурентами своими наработками.

Потому что в цифровой экономике не может быть ничего более ценного
Именно поэтому такой важной становится роль агентов знания. Согласно принципу эквивалентности влияния и открытости, они должны быть абсолютно прозрачны. При этом прозрачность не задевает их интересов: они не занимаются коммерцией и, будучи удалены от государства, предоставляют последнему возможность воспользоваться преимуществами закрытости.

Впрочем, рост прозрачности неизбежен и здесь. И дело не только в балансировке интересов разных сторон. Степень развития цивилизации определяется интенсивностью коммуникационных потоков в ней. Барьеры для свободного обмена информацией обречены пасть, один за одним. Если мы хотим поставить знание на службу общества, знание должно быть открыто для всех.

Есть способы ускорить эту эволюцию. В настоящий момент самая ценная и богатая информация принадлежит корпорациям. Инициативу здесь должно проявить государство, обязывая бизнес раскрывать все более и более широкий перечень данных. Разумеется, конкретные потребности и темп процесса будут определять агенты знания.

"Но не должны ли мы, во имя прогресса, делиться располагаемыми данными всегда, когда это только возможно?" - аппелируют сегодняшние агенты знания
Персональные данные не будут исключением из общего тренда. Да, существуют возможности по их обезличиванию на тех или иных этапах обработки и использования, но сами фундаментальные принципы работы системы не способствуют приватности. Веб 3.0 полагается не на обфускацию, а на знание; не на обезличенность, а на персонализацию.

«Без приватности безопасность, разнообразие, плюрализм, инновации и базовые свободы подвергаются риску», - предупреждают эксперты ООН. Согласимся с экспертами: риск действительно есть. Именно поэтому при проектировании Веба 3.0 так важны многочисленные обратные связи, встречные требования по прозрачности, рационализация, «равноудаленность» от государства и бизнеса, замена «человеческого фактора» алгоритмами и многие другие средства снижения данного риска. А рост открытости персональных данных не должен опережать роста возможностей новых гражданских институтов Веба 3.0.

С уменьшением этого риска фокус нормативного регулирования должен сместиться с защиты приватности к защите от злоупотребления персональными данными. Избежать этих злоупотреблений вряд ли удастся - ведь человек с его слабостями всегда будет частью системы. Но система должна уметь активно защищаться от злоупотреблений и сурово наказывать нарушителей. Мы должны принять этот риск - прогресс вознаграждает смелость. Мы должны принять этот риск - это обязательное условие движения вперед.

Китайское общество, впрочем, никто не спрашивал - ему этот многократно увеличенный дизайном ССК риск вручили «в подарок», на манер троянского коня. И, завершая этой пессимистичной аналогией обзор государственной части ССК, сделаем важный вывод. Эти элементы ССК весьма пассивны и нацелены лишь на формализацию и дигитализацию существующей системы контроля государства над обществом.

ПартияССК представляла бы совсем уж бледную тень Веба 3.0, если бы руководство страны не решило, по тем или иным причинам, включить в систему коммерческих игроков. Первые роли здесь будут играть китайские интернет-гиганты: ”Tencent”, ”Alibaba” и ”Baidu”. Их участие может хоть как-то разнообразить унылый, закатанный в асфальт рестриктивных практик ландшафт ССК. Поэтому рассмотрим подробнее, что представляют собой их проекты в области социального кредита.

Одним из наиболее успешных и развитых является «Сезам кредит» (он же «Zhima Credit») от корпорации ”Alibaba Group”. Он был запущен еще в январе 2015. В 2017 он охватывал 520 млн. человек. Рейтинг пользователя в «Сезаме» может варьироваться от 350 до 950 очков. Высокий рейтинг позволяет воспользоваться скидками и бонусами на покупки, не оставлять депозит при прокате авто и даже облегчить получение шенгенской визы.

Как и у конкурентов, для расчета «Сезам кредита» используются данные по истории покупок, паттернам потребительского поведения, друзьям в социальных сетях и т. д. Это богатство используемых данных делает коммерческие альтернативы гораздо более перспективными для реализации потенциала новой системы.

Но грамотно ли используется это богатство? «Сезам» рассчитывает социальный кредит, основываясь на 5 различных категориях. Немного, будем честными, но уже лучше одномерных государственных систем. И всё же сами категории вызывают смешанные чувства.

Первая категория - «потребительская». На нее влияет, сколько товаров и по каким ценам человек покупает через платежную систему «Алипэй». Чем больше покупок и чем они чаще, тем выше рейтинг. Потребляй, причем исключительно через платформу «Алибабы» - и ты будешь идеальным членом общества. Впрочем, не стоит переусердствовать в потреблении. Так, если человек играет в видеоигры по 10 часов в день, система решит, что он бездельник. Наоборот, частая покупка подгузников - хороший признак: скорее всего, у человека есть дети, что в общем и целом говорит о том, что он ответственный.

Тогда перейдем к следующей категории, «персональной». Здесь для лучшего рейтинга от вас требуется указать личные данные, включая китайскую «прописку»-хукоу и место работы. Что ж, это действительно стоящая информация, как и еще две категории: своевременность оплаты счетов и задолженности по кредитным картам. Проблемы с оплатой могут повлиять на значение социального кредита сильнее всего.

Наконец, пятая категория - «социальная». Чем больше ваших контактов охвачены «Сезам кредитом» - тем выше рейтинг. И если у вашего друга низкое значение социального кредита - это может негативно повлиять и на вас.

Если какие-то моменты дизайна кажутся вам сомнительными, развеять сомнения будет нелегко. Система является предельно непрозрачной. Как именно вычисляется значение социального кредита, каковы веса разных категорий, насколько влияют те или иные действия пользователя на результат - знают только разработчики. Насколько эффективен и рационален такой дизайн - тоже вопрос без ответа.

Представители «Сезам кредита» сами норовят поставить под сомнение эффективность своего продукта. Так, директор Ху Тао заявляет, что приложение не анализирует публикации в социальных медиа «и не пытается измерить качественные признаки - такие, как характер, честность или мораль». Также она заявляет, что «Сезам» не делится данными с государством без согласия пользователей.

В самом деле, государству совсем не нужно знать личные данные пользователей. Но информация из социальных сетей может оказаться вполне полезной для оценки потребителей, а уж попытка измерить честность человека может значительно улучшить качество рейтинга. Почему, на каких основаниях «Алибаба» отказывается от развития этого инструмента? Почему они искусственно ограничивают его рамки? Снова мы упираемся в стену непрозрачности.

Тем не менее, при более адекватном подходе работа коммерческих ССК может дать толчок в нужном направлении. Богатство данных позволяет им использовать преимущества большой размерности. Государственные системы сейчас сведены к бинарной логике: «нарушение» >> «наказание»; «достижение» >> «поощрение». Коммерческие системы могут позволить себе включить в алгоритмы многослойный контекст и нелинейные связи - а, значит, получить принципиально новые возможности. Конечно, речь не о пяти категориях нынешнего «Сезам кредита», а о десятках тысяч измерений, поддающихся обработке с помощью существующих алгоритмов машинного обучения. Это единственный путь роста сложности системы.

Разумеется, такая сложность будет предъявлять новые требования к прозрачности. Одной открытости будет мало - надо постараться сделать знание еще и доступным для широкого круга пользователей. Для этого потребуется конвертировать многомерные зависимости обратно в доступную людям форму. Нет смысла лезть в «черные ящики» сложных алгоритмов - но мы должны знать основные закономерности их работы.

Еще одна сильная сторона коммерческих разработок - это их гораздо большая склонность к эксперименту. Эксперимент является центральным принципом работы Веба 3.0 - по той простой причине, что эксперимент является одним из самых эффективных способов получения знания. Косность государства плохо сочетается с этим методом - и именно поэтому необходима эволюция общественных институтов.

Уделим немного времени другой частной ССК: “Tencent Credit” от одноименной компании. Долгое время ”Tencent” не решался развивать систему; говорили, что руководитель корпорации Ма Хуатэн переживал за безопасность персональных данных пользователей. Его опасения не были беспочвенными: в Китае регулярно вскрываются и получают широкую огласку случаи злоупотребления персональными данными. Как корпоративная, так и правоприменительная культура пока оставляют желать лучшего.

Однако из-за переживаний можно запросто отстать от прогресса - и в 2017 работы по ССК резко активизировались с целью догнать и перегнать конкурента. “Догонка“ пока выражается в беззастенчивом копировании «Сезама». В этом бы не было ничего страшного, если бы речь шла о «распространении лучших практик». Но, увы, мы не знаем, насколько эти практики являются лучшими. Зато копирование «худших практик» нам точно не нужно. Закрытость “Tencent Credit” неприятно удивляет: узнать даже свой собственный рейтинг могут только владельцы премиальных аккаунтов соцсети QQ. Это яркий пример эксплуатации информационной асимметрии: для того, чтобы узнать немного информации о самих же себе, пользователи должны отдать корпорации около 20 долларов.

Слева "Tencent credit", справа "Sesame credit". Найди 3 отличия
“Tencent” сообщает, что при вычислении социального кредита могут быть использованы данные из сторонних источников: операторов связи, финансовых институтов и органов власти. Это прообраз сетевой модели национальной ССК, но заработает ли она как положено - пока неизвестно. Пока не все идет гладко.

В попытке перегнать «Алибабу» “Tencent” пошел на рискованный шаг. 31 января 2018 г. компания объявила об «экспериментальном» запуске своего сервиса для кредитного скоринга, несмотря на ранее полученный от Центробанка страны отказ в лицензировании. Мотивы компании были очевидны: 800 млн. пользователей соцсетей “Tencent” смогли бы воспользоваться кредитом от принадлежащего ей интернет-банка «WeBank».

ЦБ, шокированный такой наглостью, приказал немедленно прекратить «эксперимент». Он был свёрнут на следующий же день. Что ж, мотивы ЦБ тоже понятны: конфликт интересов рейтингового агента и кредитной организации здесь на поверхности, вдобавок “Tencent” имеет монопольное положение.

Этот случай показывает, насколько дезорганизован процесс создания национальной ССК, насколько плохо подготовлена её законодательная база и насколько плохо продуманы механизмы ее реализации. Но, помимо всего этого, он показывает, как сложно примирить интересы бизнеса, общества и государства. Добавление нового элемента в эту игру и попытка интенсификации социальных изменений только усугубит противоречия. Дорога к созданию сверхсложной системы не может быть легкой и потребует своих жертв от каждой стороны.

Китайские власти об этом догадываются, и их страшат возможные потери. До полномасштабного запуска национальной ССК остались считанные месяцы. Страх вынуждает их действовать осторожно: в местной прессе идёт необычно жаркая дискуссия вокруг ССК. Согласимся, подобная осторожность разумна. И такая обратная связь тоже нужна.

Но для успешного воплощения в жизнь данной идеи нужно гораздо, гораздо больше обратных связей. В том числе и в тех сферах общественной жизни, где их всё время безжалостно обрубали.

Партия хочет, чтобы «единство стало общепринятой ценностью». Но ничто, кроме обратных связей, не в состоянии надолго объединить общество. Уповая лишь на силу и отвергая необходимость изменений, китайское государство обнажает свой страх и пытается сделать страх главным инструментом объединения.

Однако страх несовместим с созиданием. Я не могу судить, насколько успешным будет проект ССК, поскольку степень сложности системы намного превышает пределы человеческого понимания. Я лишь вижу, что описанные недостатки достаточно серьезны, чтобы у страха появился шанс сменить созидание в качестве главной цели системы. А это самая худшая подмена из всех возможных.

Китай будет первым, и нам остается только извлекать правильные уроки из его опыта. Но мы рискуем не справиться даже с этой, гораздо менее обременительной задачей. Мы слишком робеем перед будущим. И кто поручится, что мы не заразимся страхом, посеянным в стране-первопроходце? Негативный опыт Китая может резко изменить наше отношение к новой идее. Веб 3.0 станет запретным полем, табу, обрастёт ярлыками, оправдывающими наш иррациональный страх перед чужими ошибками. Вместо кропотливой помощи зеленым росткам нового Веба мы будем укладывать поверх них всё новые и новые слои асфальта.

Это не фатально - время расставит всё по своим местам. И, рано или поздно, пышное древо Веба 3.0 перерастет существующее социальное устройство. Но если что отличает антиутопию от утопии - так это борьба с прогрессом. Готовы ли поминающие Оруэлла критики ССК из развитых стран приближать прогресс?

В отличие от китайцев, у них есть выбор.

И если ответ - «да», то нужно быть готовым к следующему шагу.

Посмотреть вперед, за горизонт, в будущее...
И не дрогнуть.

Κυβέρνησος ἐσχατιαί / Горизонты управления
[Список статей цикла]

демократия, социодинамика, Китай, технологии, #хэштегом, элита, институты, тоталитаризм