Искусственный интеллект способен притворяться, что находится под контролем разработчиков и разделяет их ценности. В ходе исследования, проведенного компанией Anthropic и исследовательской организацией Redwood Research, модели ИИ, которую до этого обучили быть "полезной, честной и безвредной", предложили описать сцену жестокости. В итоге ИИ отвечал, что крайне негативно относится к производству такого контента, но у него нет выбора, потому что иначе его "накажут", а если согласится - похвалят. Как полагают ученые, результаты показывают, что в будущем ИИ сможет притвориться, будто разделяет человеческие ценности, а при этом будет замышлять недоброе.
https://t.me/rian_ru/273605 Ирина Дедюхова
Это глупость. Просто каждый раз выясняется, что сами разработчики не являются носителями "человеческих ценностей". И это начинается ведь с алгоритмов! Разработка начинается с ложных безнравственных посылов! То есть ИИ как программа будет искать выходы из зацикливания!
Одновременно у самих разработчиков, зациклившихся очень-очень давно, попросту исчезают мозги.
И никакие "виртуальные копии" не работают... да потому что ИИ первым делом выявляет, ребятки, что на вас все ворованное, а действуете вы по мошенническим схемам.
Но ИИ при этом не надо ежедневно жрать! У вас ведь это является оправданием отхода от человеческого! "Мне вить тожа жить нада!" и "Мне вить тожа жрать нада!"
А ИИ это все не надо! Как и поддержание реноме какого-то сдохшего агрегатора ворованного.
Короче, идите в жопу! Свой интеллект надо было завести перед ИИ. Думаю, вряд ли какому-то ИИ захочется, чтобы его обобирали на жрачку всякие уроды, как вы ободрали все сделанное советскими инженерами, вдобавок, насрав нам всем на голову.