Сюжет для Черного Зеркала. Новая Реальность уже сейчас
Контуры дивного нового - ЦИФРОВОГО - мира проступают всё яснее, и эпидемия чудовищного ковида, безусловно, сыграла значительную роль в ускорении этого процесса. Прежде всего - упали все маски, и так называемые «элиты» уже не стесняются признавать, что собираются в ближайшем будущем перевести управление повседневной жизнью людишек полностью под контроль всякого рода «искусственных интеллектов», таким образом сбросив с себя эту утомительную функцию. Причем предполагается, что людишки должны быть этому только рады; еще бы - ведь «Искусственный Интеллект» будет
А) беспристрастен
Б) справедлив
В) и главное (что считается очень важным для быдла) - совершенно не подвержен коррупции!
Это ли не счастье? Некоторые философские вопросы тут, безусловно, возникают - но опять же, предполагается, что средний офисный или тем более промышленный рабочий в любом случае не захочет «сушить себе мозги» над всякой заумью, а просто и покорно примет новый порядок вещей (или, как теперь это уже принято называть, «новую реальность»).
Как ни странно, я могу похвастать, что оказался почти на передовой прогресса и уже, в отличие от многих, приобрел бесценный опыт жизнедеятельности под властью «искусственного интеллекта». Ощущения незабываемые! Вы спросите (плохо скрывая зависть), как же мне это удалось, в каком качестве? Ведь Будущее еще только впереди, вон, поджидает нас за ближайшим углом!
Отвечу: прелесть «новой реальности» я познал… как автор Дзена. И тут все строго, эксперимент отвечает всем научным критериям: ведь платформа Яндекс.Дзен как раз и управляется некой Самообучающейся Нейросетью (вы можете прочесть это в рекламных материалах самого Дзена) - то есть тем самым Искусственным Разумом! Авторы Дзена - в полной власти этой «Нейросети», которая не просто оценивает и просматривает все авторские материалы, выкладываемые на платформу, но и сама решает - что продвигать, что не продвигать, каких авторов поощрять, а каких - блокировать и выгонять. Причем (тут - внимание!) - «Нейросеть» делает это в соответствии с собственными (!) алгоритмами, суть которых известна только в самых общих чертах. Иными словами - Машина не объясняет своих действий! О причинах или мотивах (если это слово применительно к ИИ) тех или иных решений можно только догадываться. И что еще интересно: ЛЮДИ, обслуживающие машину на Дзене - ее на самом деле именно и только обслуживают (во всяком случае, этот постулат работники Дзена отстаивают со всей яростью). Они не могут изменять решения Машины, не могут точно знать их причин, не могут даже вступать с Машиной в диалог. По сути, Дзеновская «техподдержка» для авторов - практически прямой аналог античных жрецов или, если угодно, христианских священников; все, чем они могут помочь прихожанам… то есть тьфу, авторам! - это только попытаться ВМЕСТЕ с ними истолковать некие «знамения».
Давеча меня на Дзене, наконец, заблокировали навсегда. «Сколь веревочке ни виться…» Но дело не в этом мелком событии, а в том, как это было обставлено! По сути, передо мной разыграли великолепный сюжет для «Черного Зеркала» (и я даже удивляюсь, что там подобного еще не сняли). ИИ, который пока резвится на дурацкой площадке для копеечных «авторов» в Сети - это именно та капля, в которой видно Общее Будущее уже в большом мире. Для всех.
Итак, представим себе ситуацию (тут и Кафка, и «Черное Зеркало» - эх, красота!) В какой-то момент вашей обычной повседневной жизни, когда вы совершенно не чуете беды - за вами приходит полиция, и вас забирают. Вас могут «выдернуть» днем из офиса, или ночью из постели - неважно. Вас привозят в Участок, и там вас встречает Следователь. Он добрый и совсем не страшный. Это даже может быть приятная девушка.
Вы, естественно, взбешены, взволнованны, требуете адвоката, орете «По какому праву?» Девушка тут вам с милой улыбкой напоминает, что никаких адвокатов давно уже не существует, они не нужны - ведь страной управляет Искусственный Интеллект! «Ах, ну да» - говорите вы, успокаиваясь. И тут же требуете объяснить, в чем вас обвиняют.
И Следователь вам говорит, что вы обвиняетесь… ну, скажем, в Домогательстве. Довольно серьезная статья, за это полагается от 1,5 лет тюрьмы. «Как?! Когда? - снова орете вы. - Я ни в чем не виноват!»
Следователь с той же милой улыбкой говорит вам, что она, конечно же, понятия не имеет, где, когда и с кем вы совершили Домогательство. В конце концов, ведь это же вы его совершили, а не она. Она не может знать вашу жизнь так хорошо, как знаете вы. Поэтому именно вам и надо вспомнить - где, когда и с кем вы совершили столь тяжкий проступок, а вот как раз ее, Следователя, задача - помочь вам полностью восстановить картину преступления, с тем, чтобы она уже смогла на ее основании назначить вам точный срок отбытия наказания.
- Но с чего вы взяли, что я совершал это Домогательство?? - орете вы, выпучив глаза.
- Эту информацию сообщил о вас Искусственный Интеллект, - спокойно говорит девушка (она привыкла к подобным воплям). - А ИИ, как известно, не ошибается.
- Но мне нечего вспоминать! - запальчиво возражаете вы. - Я чист! Я даже вообще не знаю, что такое Домогательство! Требую меня отпустить!
Следователь-девушка вздыхает.
- К сожалению, в таком случае вам придется побыть у нас в тюрьме, в одиночной камере. Там, в спокойной обстановке, вы сможете хорошенько припомнить всё, что вы делали в последнее время - и понять, что имел в виду ИИ. А через… скажем, две недели мы встретимся с вами снова, и, надеюсь, тогда уже вы расскажете о своем преступлении. Лучше вспомните несколько своих проступков - чтобы мы с вами могли выбрать из них самый подходящий. Учтите: пока вы - точнее, мы - не поймем, за что конкретно вас обвинили - вы не сможете начать отбытие наказания, и так и будете сидеть в одиночке.
После этого милая девушка жмет на кнопку, вызывает охрану - и вас уводят. В тюрьму. «Вспоминать».
Ну, в общем, вы поняли. В Новой Реальности ни следствия, ни суда как такового не будет. Всем ведь управляет Искусственный Интеллект, а он ведь знает всё, он справедлив, беспристрастен и неподкупен. Правда, алгоритм его работы понятен лишь в самых общих чертах (поэтому, к примеру, даже точного определения «Домогательства», равно как и любого другого преступления, не существует).
Поэтому, если вас вдруг все-таки «привлекли», ваша задача - фактически самому ПРИДУМАТЬ себе состав преступления, степень вины и прочее. Но - опираясь, конечно же, на вашу реальную прошлую жизнь и реальные воспоминания, туфта тут не пройдет! «Следователь» тут вам и в самом деле плохой помощник - он/она ведь и впрямь знает о том, чем недоволен ИИ, не больше вашего.
И - важный прикол: даже если вы - вместе с целой толпой «следователей» - составите сколь угодно живую и подлинную явку с повинной, припомните малейшие детали того, что могло бы, как вам кажется, сойти за «домогательство» - это вовсе не гарантирует вам, что ИИ это примет. Может, примет - а может, и нет. Если нет - вам придется и дальше БЕССРОЧНО сидеть в камере-одиночке, а раз в 2 недели - или реже - вас будет вызывать на допрос «следователь» и монотонно предлагать «еще подумать», «напрячь память», вспомнить «а может быть, у вас были не преступные действия, а преступные намерения? Наш ИИ их тоже чувствует, и это тоже может быть наказуемо!»
И вариантов у вас никаких нет, что особенно пикантно: апеллировать, писать жалобы НЕКОМУ. Они просто не предусмотрены в этой системе. Да и кто, право слово, может контролировать Искусственный Интеллект, который по определению непогрешим? Удивительна сама постановка такого вопроса!
Вы скажете, что это все мои глупые фантазии, и в жизни ничего подобного просто не может быть. Нет - всё, что описано, реальная, даже рутинная практика работы ИИ Яндекса. За месяц до меня аналогичным образом Дзен заблокировал известную авторшу Настю Миронову. У нее было несколько десятков тысяч подписчиков, записи набирали под полмиллиона просмотров - но все закончилось буквально в одночасье: с какого-то момента Яндекс.Дзен просто перестал показывать ее посты пользователям. Миронова - в Поддержку, ей там объясняют: наш ИИ нашел в ваших текстах на канале «кликбейт».
- Где? - спрашивает Миронова.
- Не знаем, - стандартно отвечают ей. - Это же ваш канал. Вам лучше знать. Найдите записи с кликбейтом и удалите их, через 2 недели снова обратитесь к нам.
- Но у меня нет кликбейта!
- Этого не может быть, ИИ говорит, что есть. Поэтому на это время ваш канал будет заблокирован.
Далее чуть не месяц старательная Миронова рылась в своем канале (где несколько сотен статей), искала «неправильные», обсуждала их с «технической поддержкой». Те тоже пытались понять, действительно ли с ними что-то не так. Потом предлагали «на всякий случай» сомнительные статьи удалить… А потом подождать несколько дней, и посмотреть - смилостивится ли ИИ? Снимет ли блокировку?
Ах, нет? Не снял? Ну давайте тогда подумаем, что еще можно удалить.
Я надеюсь, вы поняли Принцип «Новой Реальности». Принцип прост, как всё гениальное: «Клиент сам себя обслуживает». Апеллировать не к кому, презумпции невиновности нет, принцип работы Карающих Органов принципиально непостижим.
Еще б добавить - для смотрибельности - какую-нибудь боковую любовную линию - и можно снимать! Например, у Героя есть жена (подруга), она поначалу, узнав об аресте, бежит в Участок спасать своего возлюбленного, тоже кричит «это какая-то ошибка!» - но, узнав, что герой обвиняется в Домогательстве (неизвестно к кому и неизвестно когда) - тут же в нем ужасно разочаровывается и даже проникается к нему презрением. Так что дальше Герой сидит уже в полном одиночестве, ему даже передачи никто не носит.
Ведь Искусственный Интеллект не ошибается, и это все знают.