Жертвы программной ошибки в Британии
Программам доверять нельзя:
В Британии почтальонов 20 лет по ошибке сажали в тюрьму из-за якобы «кривого» ПО.
Об этом статья в блоге Бориса Рожина -
В комментариях к статье написали об особенностях британского законодательства и возможных махинациях руководства почтовой госкомпании (никто не исследовал, эти «ошибки» могли быть преднамеренными закладками для банкротства низшего звена служащих, как отметили в комментариях).
Но есть ещё и 3-е измерение, о котором стоит напомнить: программам и строящимся на ПО «искусственному интеллекту» доверять нельзя вообще, необходим периодический контроль. Пишу это как программист.
И свидетельств этому - море.
И естественно, ПО используют персонал и руководство в личных целях, и так будет всегда, пока существуют личные цели.
И обратите внимание, подобная описанной система, - это и есть ИИ о котором везде жужжат, подсистема электронного концлагеря, подсистема компьютеризированного социального рейтинга.
Поэтому, по сходной причине, кстати, нельзя доверять и работе вакцин, это оказывается близкой областью, но тут должен быть отдельный разговор. Предмет зависит от аспектов, которые замолчаны в политических целях, или считаются ненаучными, или вообще являются загадкой на необозримое будущее.
Но то, что нельзя доверять всем системам искусственного интеллекта на чисто программных средствах, это как пить дать.
В частности поэтому все компоненты социального рейтинга и электронного управления обществом (электронный концлагерь) должны быть ограничены, подотчетны, и проверяемы, если они вообще допущены, что необязательно, поскольку вся цивилизация и без нашего ПО есть по сути глобальная программная система, только не убогая двоичная, а безконечно многомерная. И желание делать к этой системе убогие надстройки полезно только для дополнительного негативного опыта двуногих дебилов, которыми мы и являемся.
Но к сути: всё ПО, даже национальное российское, будет иметь потенциально похожие с описанными проблемы, вопрос только времени и катализатора для очередной аварии. Это не значит, что не надо применять ПО и программировать события, а значит, что нельзя слишком доверять ПО и надо предусматривать постоянные перепроверки.
Все "благие" обещания-намерения по надёжной цифровизации есть ложь и незнание, но это развитие цифровизации некритично, если осуществляется осторожно под контролем не-грефов.
Можно отметить чуткую позицию по отношению ко всяким недоразвитым законо-творцам РИА "Катюша"
К слову, напомню, что тема закладок в ПО Микрософт, Гугл, Эпл и тд, и из процессоров Интел и тд никуда не ушла, а только была аккуратно замолчана в последние 10-15 лет. Такая задача была поставлена в Штатах, и наверняка делегирована дальше, перед всеми высокотехнологичными производителями, не только чисто в сфере компьютеров.
Предполагаю, что такие закладки используются для сбросов, заселения троянами, но аккуратно, редко, чтобы особо не вредить доверию к компаниям. В своей работе сталкивался с подобными сбросами.
И можно вспомнить отключения электроэнергии в Венесуэле и аварию "Железнодорожная катастрофа под Уфой" (были слухи, что в дистанционно управляемые клапаны на газопроводах добавлялись закладки) и много аварий боинг, когда управление было перехвачено извне.
И ещё раз: электронному концлагерю - нет!
- не потому что написано что-то в Библии, хотя это важно, а потому что нельзя доверять программам вообще; вычислителям на уязвимых физических структурах тем более (а других не будет); персоналу и руководству, которые имеют парадигму личной выгоды в голове (а когда будет хорошая парадигма в головах, не нужны будут подобные системы).