Comments | aegorow: Фантастика и жизнь

aegorow

Фантастика и жизнь

Jan 01, 2019 11:57

Свыше 10 лет тому назад увидела свет техно-опера Виктора Аргонова "Легенда о несбывшемся грядущем". В мире техно-оперы Советский Союз благополучно досуществовал до 2032 года, эпохи внедрения искусственных интеллектов. Автоматическая система государственного управления (АСГУ), главный советский искин, анализируя окружающую действительность, пришла к ( Read more... )

книги, размышления, фантастика

Comments 6

vasilisk_ January 1 2019, 10:34:58 UTC

Насколько я помню, у Аргонова АСГУ сделала вид, что подчинилась догмам. И формально ими действительно руководствовалась, сама же, как и положено искусственному интеллекту, продолжила думать и развиваться самостоятельно.

aegorow January 1 2019, 11:13:26 UTC

По моим ощущениям (частично руководствуясь общими соображениями относительно логики развития систем, частично - текстом оперы), насильственное прописывание догматики в ядро АСГУ привело появлению не искина-догматика, но и не искина-лицемера. С "личностью" АСГУ (насколько этот термин применим к искину) произошло то же, что происходило с ногами древнекитайских девочек, насильственно зажатыми в форму, догматически объявленную идеальной. Одностороннее, искаженное развитие, попытка найти компромисс между объективной логикой системного развития и жесткой внешней догматикой.
Характерен монолог АСГУ, кода она аргументирует необходимость использования атомного оружия. Сперва - "Я и сама не считаю такой шаг правильным. Но, разве он не разумен, с точки зрения твоих взглядов ( ... )

vasilisk_ January 1 2019, 12:20:36 UTC

логичная версия, не поспоришь

Как по-твоему, Светлана Лимаева, ученица 11-го класса в Зеленодольске - создание АСГУ (не обязательно физически, т.е. как внешний автономный интерфейс, искусственная личность и т.п., АСГУ могла ведь точечными воздействиями на психику подходящей девушки сформировать её определённым образом, чтобы через неё "тестировать" и изучать эмоциональную сферу Милиневского) или же её история случайно совпала с прочими событиями? Автор, насколько я понимаю, сознательно оставил неопределённость в этом вопросе.

aegorow January 1 2019, 18:44:42 UTC

ИМХО, совпадение. Если бы АСГУ была способна на манипулирование такого уровня, АСГУ не довела бы дело до войны... Судя по тексту оперы, у АСГУ с пониманием человеческой психологии дело обстоит сложно и ее срыв с "бредом" и "ерундой" не в последнюю очередь обусловлен именно раздражением на этих нелогичных и иррациональных людей (если АСГУ - разум, если она сверхсложный алгоритм - то неудачной попыткой эмулировать поведение этих нелогичных и иррациональных людей ( ... )

_hellmaus_ January 10 2019, 12:32:40 UTC

"И по мере того, как информационные технологии будут становиться сложнее, выбор между верностью догмам и эффективностью будет вставать все чаще"

Почему вы считаете кадровые решения ИИ Амазона истиной в последней инстанции? Описанная история похожа на банальный overfitting, кроме того, там наверняка был мусор в исходных данных.

aegorow January 10 2019, 20:51:40 UTC

В процитированном вами предложении речь идет о конфликте не между догмами и истиной, а между догмами и эффективностью - разница существенная.

Когда из заслуживающего внимания источника мы получаем информацию, противоречащую нашим убеждениям, есть два варианта действий. Вариант первый - "Фигня же. Бред. Ну не может такого быть. А вдруг? Надо бы проверить...". И в девяти случаях из десяти окажется, что действительно - фигня, бред, случайные совпадения и ошибки измерения. Но в десятом случае выяснится, что все таки не ерунда и вы изобретете пенициллин, что окупит затраты на девять проверок ошибочных гипотез. Вариант второй - "Фигня же. Бред. Ну не может такого быть, потому что не может быть никогда". И тогда у вас есть шанс пройти мимо потенциального золотого дна ( ... )