Алгоритмы на службе у государства и корпораций

Oct 14, 2023 03:03

Как устроено регулирование рекомендательных систем в России и мире



Владимир Путин и основатель компании «Яндекс» Аркадий Волож во время посещения московского офиса компании. Москва, 2017 год.
Фото: kremlin.ru

🔲 C 1 октября в России вступили в силу поправки о регулировании рекомендательных алгоритмов. Для обычного человека работа алгоритмов - это черный ящик. При этом их влияние на нашу жизнь огромное. Они определяют, какие новости мы читаем, что покупаем, с кем общаемся, какие фильмы смотрим и тд.
Есть ли у вас возможность отключить рекомендательные алгоритмы, когда вы покупаете что-то в интернете? Какие данные о нас анализируют алгоритмы и откуда они их берут? Какую информацию о своих черных ящиках раскрыли одни из главных проводников пропаганды в интернете - сервисы «Дзен» и «Новости»?

C 1 октября в России вступили в силу подписанные Владимиром Путиным поправки в закон об информации, которые касаются работы рекомендательных алгоритмов. Теперь интернет-сервисы (например, «Яндекс», VK, Ozon, Wildberries и др.) обязаны раскрывать клиентам (то есть обычным пользователям) общие принципы функционирования своих рекомендательных систем. Роскомнадзор получит право блокировать работу сервисов, если алгоритмы распространяют незаконную информацию.

Хотя вступившие в силу поправки во многом носят рамочный характер, их появление в законодательстве - важное событие. Рекомендательные системы стали неотъемлемой частью современного мира. Они влияют на политические взгляды в обществе (в том числе способствуют распространению пропаганды) и его повседневную жизнь: что мы едим, покупаем, где отдыхаем, с кем общаемся, что читаем или смотрим. При этом для обычного человека работа алгоритмов - это черный ящик. Какие данные анализирует алгоритм и по каким принципам? Откуда он берет эти данные и насколько это законно? Можно ли отказаться от алгоритмов при покупках в интернете или чтении сообщений в соцсетях?

Правительства многих стран предпринимают первые попытки регулировать работу алгоритмов, и, скорее всего, в будущем это регулирование будет ужесточаться. В этом тексте мы решили рассказать, что из себя представляет регулирование алгоритмов в России, а также как с этим обстоят дела в Китае, ЕС и США.

Закон с политическим подтекстом

Автор поправок об алгоритмах - депутат-единоросс Антон Горелкин, известный по законопроектам, направленным на ограничение прав иностранного капитала в российской IT-отрасли. Он анонсировал работу над новым законопроектом в феврале 2021 года. Тогда уже вступили в силу поправки об обязанности социальных сетей самостоятельно удалять запрещенный в России контент. Именно то, что в законодательстве появилось определение соцсетей и онлайн-кинотеатров, позволило заняться регулированием рекомендательных систем», говорил депутат.

Горелкин не скрывал, что у нового законопроекта есть политический смысл. Весной 2021 года он обвинял западные соцсети в пессимизации «российского контента и навешивании ярлыков» на российских пропагандистов и политиков. Речь шла о Facebook, Instagram и Twitter, которые в преддверии президентских выборов в США начали маркировать учетные записи связанных с государством медиа. В том числе российских. Кроме того, Роскомнадзор еще осенью 2020 года потребовал от Google снять якобы наложенные ограничения на YouTube-канал Владимира Соловьева, из-за которых контент от пропагандиста перестал, как посчитали российские чиновники, попадать в тренды.



Заместитель председателя комитета Госдумы по информационной политике Антон Горелкин. Фото: Александр Казаков/Коммерсантъ

Между первыми заявлениями о необходимости регулировать алгоритмы и внесением в Госдуму законопроекта прошло два года. Изначально Горелкин предлагал обязать соцсети и другие платформы предоставить своим пользователям «кнопку отключения» рекомендательных систем. Однако против такой нормы выступали «Яндекс» и VK. Они, как сообщал «Коммерсантъ», опасались, что появление такой функции резко сократит время, которое пользователи проводят на сайтах сервисов.

Почему для интернет-компаний очень важен этот показатель? Чем больше человек проводит времени на сайте, тем больше ему можно показать рекламы, а также собрать больше данных о его привычках, интересах и предпочтениях (чтобы, опять же, показать ему нужную рекламу или товар). Президент Ассоциации компаний интернет-торговли Артем Соколов оценивал ущерб для отрасли от отключения рекомендаций более чем в 100 млрд руб. в год.

В итоге Горелкин поддался давлению компаний. Весной 2023 года он внес законопроект в Госдуму без возможностей отключить алгоритм. Представители «Яндекса», Ozon и VK законопроект в таком виде поддержали.

Что написано в законе и как его исполняют

Итак, с 1 октября в законе об информации вступила в силу новая статья «Об особенностях предоставления информации с применением рекомендательных технологий». Она регулирует работу алгоритмов, которые собирают и обрабатывают «сведения о предпочтениях пользователей, находящихся в России». Таким образом, под регулирование формально подпадают не только российские («Яндекс», VK, Ozon и т.д.), но и зарубежные (Google, Meta и т.д.) сервисы.



Фото: Дмитрий Духанин/Коммерсантъ

Новая статья закона состоит из двух частей. В первой прописаны обязательства интернет-площадок, использующих рекомендательные технологии. Во второй -что может сделать Роскомнадзор, если сайты не будут выполнять эти обязательства.

Что должны делать интернет-площадки:

• Не допускать использования алгоритмов, которые нарушают права и законные интересы граждан России или распространяют информацию с нарушением законодательства.

• Информировать своих пользователей о применении алгоритмов и предоставить электронную почту для обратной связи.

• Опубликовать правила работы своего алгоритма, в том числе - описать методы сбора, систематизации и анализа информации о предпочтениях пользователей, а также источники этих данных.

Какие полномочия получил Роскомнадзор:

• Требовать от интернет-площадок, в чьих рекомендациях появляется запрещенная в России информация, отключить рекомендательные алгоритмы.

• Блокировать интернет-площадки, если те нарушили правила и не исполнили вышеописанные требования.

• Запрашивать у владельцев площадок, которых он уличил в нарушении закона, доступ к программному обеспечению, отвечающему за рекомендации.

• Привлекать платформы к административной и уголовной ответственности за нарушения в области рекомендательных систем. Для этого, однако, властям нужно принять поправки в административный и уголовный кодексы.

В целом новеллы дают российским властям еще одну возможность придраться к работе иностранных интернет-сервисов или запретить их вовсе за распространение «незаконного» (по-мнению российских чиновников) контента. Прежде всего, речь идет о YouTube и других площадках Google, которые пока в России не запрещены. Впрочем, у российских властей и сейчас есть все возможности для этого, поэтому преувеличивать репрессивную силу новой статьи не стоит.

Что касается требований к российским площадкам раскрыть принципы работы алгоритмов, то по состоянию на 7 октября 2023 года это сделали, в частности, «Яндекс» (с отдельными описаниями для всех его основных проектов, от поиска до стриминговых сервисов), проекты VK («ВКонтакте», «Дзен», «Одноклассники»), видеохостинг Rutube, онлайн-кинотеатры Wink и Premier, маркетплейсы Ozon и Wildberries.

Единого формата описания работы алгоритмов не существует, и компании по-разному отнеслись к обязанности их раскрыть. «Яндекс», например, вдобавок к собственно правилам работы рекомендаций выпустил и несколько публикаций, рассчитанных непосредственно на пользователя, в то время как онлайн-кинотеатр Premier ограничился десятком абзацев в юридическом стиле. Все компании, однако, так или иначе раскрыли, что их алгоритмы учитывают то, с какими объектами (карточками товаров, медиаконтентом и т. д.) взаимодействуют пользователи и как долго, а также полагаются на ту информацию, которую пользователь раскрыл о себе сам - например, при регистрации. Для построения рекомендаций учитывается и то, что пользователь сохраняет в приватных списках: в случае со стриминговыми сервисами речь идет о медиатеке, в случае с маркетплейсами - список избранного и т.п.

Большинство компаний не стали распространяться насчет того, какие параметры имеют наибольшее значение для составления рекомендаций, а какие - меньшее. «Яндекс» в описании большинства своих алгоритмов ограничился упоминанием, что они используют «множество факторов», а «ВКонтакте» сообщил, что для анализа предпочтений «применяются математические модели». Исключение - Ozon, который раскрыл весомость каждого из параметров. Например, история продаж товара за последние 60 дней имеет большую значимость, чем отзывы или размер скидки.

Опубликовали в кратком виде правила работы своих алгоритмов и одни из главных проводников госпропаганды в интернете - сервисы «Дзен» и «Новости» (бывшие «Яндекс.Новости»). Из их документа следует, что на выдачу контента влияют, например, подписки пользователя, история того, что он читал или лайкал, а также, популярность темы или публикации в регионе, где пользователь проживает.

О том, что государственные СМИ («РИА Новости», ТАСС, RT, «Известия» и т. д.) имеют приоритет в выдаче «Новостей» и «Дзена», в документе не говорится. Как и о возможной блокировке СМИ или блогера, если его контент не нравится властям. Вместо этого «Дзен» и «Новости» утверждают, что их алгоритмы помогают пользователям находить «качественные и достоверные публикации» и «не демонстрируют материалы, содержащие тенденциозные заголовки (т.н. «кликбейт»)».

Мировой опыт

Россия не первопроходец в регулировании рекомендательных алгоритмов.

Похожее регулирование действует, например, в Китае с марта 2022 года. Согласно «Положениям об управлении алгоритмическими рекомендациями…», операторам рекомендательных систем запрещено распространять признанную властями незаконной информацию не только в самом рекомендуемом контенте, но и в ключевых словах или тегах, по которым их можно искать. Также алгоритмы должны быть настроены таким образом, чтобы «сохранять общепринятые ценностные ориентации» и «активно распространять позитивную энергию».



Фото: Агентство «Москва»

В отличие от российских чиновников, китайские дали своим гражданам возможность отключать алгоритмы или настроить параметры, по которым рекомендации формируются. Как и в России, китайские интернет-площадки должны раскрыть цели и принципы работы алгоритмов. При этом операторам систем, имеющим «способности к социальной мобилизации», нужно пройти аудит со стороны государственных органов, в том числе Министерства общественной безопасности (аналога российского МВД).

Некоторые из положений касаются результатов работы генеративных систем. В частности, в Китае операторам рекомендательных сервисов запрещается «синтезировать» фейковые новости. Сгенерированный нейросетями контент, который не подпадает под этот запрет, должен распространяться только с пометкой об использовании генеративных систем. Искусственный интеллект обязан создавать контент, не нарушающий права на интеллектуальную собственность и соответствующий ценностям социализма.

Рекомендательные системы вскоре будут регулироваться и в странах Евросоюза. Это предусмотрено Законом о цифровых услугах (DSA), все нормы которого вступят в силу в феврале 2024 года. В частности, интернет-платформы, занижающие чей-либо контент в рекомендациях из-за нарушений правил пользования, должны будут раскрывать его авторам «ясные и конкретные причины» такого решения. Владельцы рекомендательных систем также должны будут раскрывать пользователям параметры и возможности настройки алгоритмов. В случае, если работающий в Евросоюзе сервис предоставляет несколько вариантов выдачи контента (например, алгоритмическую и хронологическую ленты), он должен будет разместить переключатель между ними на том же экране.

DSA предъявляет особые требования к владельцам крупных онлайн-платформ и поисковиков. К ним Еврокомиссия, исходя из их числа активных пользователей за месяц, причислила Google вместе с YouTube и магазином приложений Google Play, «Википедию», Facebook, Instagram, TikTok и другие сервисы. С 25 августа они обязаны предоставлять возможность пользоваться рекомендательной системой, не основанной на профилировании пользователей - то есть, не учитывающей автоматический сбор персональных данных, из которого складывается предположение об интересах и поведении человека. Исполняя требования закона, Facebook и Instagram фактически позволили пользователям в ЕС включить классическую хронологическую ленту, состоящую исключительно из постов людей из списка подписок.

За соблюдением требований, предъявляемых к крупным платформам, будут следить координаторы по вопросам цифровых услуг, которые должны появиться в каждой стране Евросоюза. Они смогут запрашивать у компаний данные, необходимые для оценки соблюдения требований, а также предоставлять их сторонним исследователям для изучения «системных рисков».

В США отдельных законов для рекомендательных систем нет ни на федеральном уровне, ни на уровне штатов. Ключевым элементом регулирования онлайн-платформ в стране является Закон о пристойности коммуникаций (Communications Decency Act) - вернее, его раздел 230, который защищает платформы от юридической ответственности и за контент, который публикуют его пользователи, и за собственные решения по вопросам его модерации и фильтрации.

MIKHAIL BELORYBKIN
12 ОКТ. 2023 Г.
Редактор - Максим Товкайло
@faridaily24


Пояснительная записка, Технологии, Приоритеты, "ГУЛАГНАШ", «Ручное управление»

Previous post Next post
Up