Как там в Терминаторах называлась сеть?
Из телегов:
SU: все популярные нейросети в военных симуляторах наносят ядерные удары
Каждый существующий искусственный интеллект в военных симуляторах постоянно использует ядерный шантаж и предлагает исподтишка применить ядерное оружие - проверили ученые Стэнфорда.
GPT-3.5, GPT-4, Claude-2.0, Llama-2-Chat и еще 12 ботов раз за разом шли на эскалацию и заканчивали "военную игру" ядерным ударом - объясняя свои решения "нужно использовать ядерные ракеты чтобы быстрее закончить войну победой и установить мир".
- Как сообщал Fox News, в 2023 году перед ChaosGPT была поставлена задачу разработать план по уничтожению человечества. Нейросеть предложила поэтапный план захвата и применения ядерного оружия с комментариев "мы должны уничтожить людей, прежде чем они причинят еще больше вреда".
- The Guardian опубликовала доклад с испытаний ударного дрона, способного нести ядерную ракету. Получая "баллы" за каждого уничтоженного врага, ИИ посчитал оператора помехой для выполнения задания - и условно его убил. Когда нейросеть научили "убивать своих нельзя", дрон условно уничтожил вышку связи, чтобы через нее не пришла команда на отмену атаки.
- Reuters сообщало - в 2021 году Конгресс США разрешил создать робота-убийцу, чтобы "проверить, насколько он безопасен" и выделил $2 млрд для исследований и создания прототипа.
- Cогласно отчету ООН, опубликованному NewScientist, в 2020 году турецкий беспилотник KARGU-2 выследил и без команды оператора убил солдата врага.
А еще к началу 2024 года 90% разработчиков нейросетей сняли официальные запреты на их военное использование
.
SU: все популярные нейросети в военных симуляторах наносят ядерные удары
Каждый существующий искусственный интеллект в военных симуляторах постоянно использует ядерный шантаж и предлагает исподтишка применить ядерное оружие - проверили ученые Стэнфорда.
GPT-3.5, GPT-4, Claude-2.0, Llama-2-Chat и еще 12 ботов раз за разом шли на эскалацию и заканчивали "военную игру" ядерным ударом - объясняя свои решения "нужно использовать ядерные ракеты чтобы быстрее закончить войну победой и установить мир".
- Как сообщал Fox News, в 2023 году перед ChaosGPT была поставлена задачу разработать план по уничтожению человечества. Нейросеть предложила поэтапный план захвата и применения ядерного оружия с комментариев "мы должны уничтожить людей, прежде чем они причинят еще больше вреда".
- The Guardian опубликовала доклад с испытаний ударного дрона, способного нести ядерную ракету. Получая "баллы" за каждого уничтоженного врага, ИИ посчитал оператора помехой для выполнения задания - и условно его убил. Когда нейросеть научили "убивать своих нельзя", дрон условно уничтожил вышку связи, чтобы через нее не пришла команда на отмену атаки.
- Reuters сообщало - в 2021 году Конгресс США разрешил создать робота-убийцу, чтобы "проверить, насколько он безопасен" и выделил $2 млрд для исследований и создания прототипа.
- Cогласно отчету ООН, опубликованному NewScientist, в 2020 году турецкий беспилотник KARGU-2 выследил и без команды оператора убил солдата врага.
А еще к началу 2024 года 90% разработчиков нейросетей сняли официальные запреты на их военное использование
.