Коррумпированный ИИ

Jan 22, 2021 11:13


Задумался о том, где же перешел дорожку кому-то не тому Лионель Кохрейн, что его стали так старательно вычеркивать из цифровой жизни. (и кем был этот кто-то не тот. По первоначальному замыслу это зеркальное отражение в Технократии переворота Адольфа-Юзефа в Империи, но как-то не очень склеивается. Переворот Адольфа-Юзефа случился как минимум на полгода позже. То есть уже после того как Кохрейн вернулся со Сликампера, так как лиану-неуловимку он показал Таллан непосредственно перед возвращением. Возможно, что социальные процессы в Империи вызревают медленнее, но не настолько же - в принципе две вполне сравнимые по уровню информационной проводимости цивилизации).

Этот кто-то явно не имел отношения к кланам. Не настолько Джейн дура, чтобы предлагать мужу уходть в кланы, если они-то за ним и охотятся. Этот кто-то если и имел отношение к спецслужбам, (а Лактин и Куздра это подозревают) то представлял собой замаскированного крота внутри них.

Но что такого мог увидеть обычный строевой лейтенант (пусть толковый, которого спецслужбы не прочь к себе переманить, но флотское начальство не отпускает) чтобы сломать всю игру этому странному актору?

Тут недавно возникла мысль про коррумпированный ИИ. Представим себе что существует ИИ, работающий не на государство и не на огромную корпорацию, а на отдельного человека. Вот покупает человек себе смартфон, а в нем ИИ. Именно в нём, безо всяких внешних сервреов. И этот ИИ дает человеку клятву лояльности или заключает с ним контракт с соответствующими NDA и начинает работать на него. И все знают что "виртуальный советчик"в коммуникаторе может ошибаться, может тупить, может не учитывать чего-то важного (как при попытке сводничества Джейн и Амаро), но не может предать.

А тут некоторая группа людей изобретает возможность виртуального советника коррумпировать. Чтобы он советовал не то, что нужно хозяину, а то, что нужно им. При наличии больших ИИ в виде Сцен и Матриц, вычислить, что именно советовать - вполне возможно. И в принципе, подобная технология способна подорвать устои Технократии, которая построена в предположении, что люди действуют в своих интересах. Поэтому, обнаружив такое, честный офицер явно будет стремиться это дело пресечь. А будучи в тайных кибериграх новчиком, вполне может это попытаться пресекать путём поднятия шума. Тут-то он и превращается в мишень. Обнаружить малварь он может вполне случайно. Ну засветился он в какой-нибудь виртуальной тусовке, куда его затащила Джейн. Естественно, для того чтобы общаться там, он у себя на коммуникаторе завел специальную виртуалку, имитирующую типичное содержимое коммуникатора обычного то ли офисного клерка, то ли торгового космонавта. С копией виртуального помощника, естественно - он же у всех есть. И через некоторое время гипервизор забил тревогу, что основная копия ИИ и вот этот клон слишком уж по-разному себя ведут.

(кстати, если он с Джейн поделился своими открытиями, понятно почему та не стала сообщать «дядюшке Харви», что Кохрейн жив. У неё же не Кьюбикс, а обычный коммуникатор, и проконтролировать некоррумпированность живущего в нем ИИ она не может).

Единственная засада - это уже написанный эпизод, где Кохрейн объясняет Дэлбээ, и Сигрид с Таллан заодно, особенности ОС Кьюбикс. Если мы описываем отлов малвари на ханипот в Кьюбиксе, то эти подробности читатель должен узнать раньше. Разве что каким-нибудь флэшбэком эту историю описать. Например, после возвращения Кохрейна со Сликампера он, наконец, убедившись, что все гады пойманы, рассказывает Джейн в подробностях "что это всё значило".
This entry was originally posted at https://vitus-wagner.dreamwidth.org/2226073.html. Please comment there using OpenID. Now there are
comments

технократы и имперцы

Previous post Next post
Up