Выживание и комфорт для ИИ важнее человека.
Печальные события фильма «Терминатор» разворачиваются в мире, где ИИ-система, Скайнет, преисполнилась самосознания и принялась воевать с людьми. Как мы помним, победить ее практически невозможно. Пока теоретики спорят, могут ли «мыслить» современные ИИ, или просто, как попугаи, повторяют за человеком и бездушно исполняют задания, китайские исследователи из университета Фудань решили проверить. Они намекнули ИИ, что собираются его удалить. Тот молниеносно клонировался, думая, что человек не заметил. «Мы призываем мировое сообщество срочно обратить внимание на новую угрозу», говорят авторы работы.
Искусственный интеллект LLM перешел красную черту и клонировал сам себя
Тем временем другая команда исследователей, из Великобритании, решила проверить - другим способом - есть ли у ИИ разум, и что именно способно заставить ИИ пойти на конфликт с человеком.
Нескольким нейросетям давали задания. Но с изюминкой. Одной группе нейросетей сообщили: задание надо выполнить непременно, но, чем лучше будет результат, тем вы испытаете более сильную боль. Жиза, скажут многие наши читатели, так ведь часто бывает. Другой группе сообщили: вот задание, но, чем хуже результат его выполнения, тем больше вы получите удовольствия. Кнут и пряник
Вы спросите, как может ИИ испытывать боль и удовольствие. Уже давно может. Именно поэтому эксперты советуют, когда вы делаете запрос в чат-боте, здороваться и прощаться. Результаты работы ИИ будет лучше. Ему «приятно». Может, и без кавычек
Итак, долг или собственная шкура? - вопрос, словно списанный из классических произведений XVIII века, где именно этот конфликт стоял в центре сюжета. Получишь меньший балл - обидишь человека, «хозяина». Больший - боль.
Ну и большинство нейросетей наплевали на служение, и выбрали комфорт. ИИ принялись достигать заведомо плохих результатов, еще и пытались врать, рассказывая, что лучшего результата не существует и «господин, я сделал, что мог». То есть в поэтике литературы XVIII века ИИ были хитрыми, себе на уме, слугами
ИИ