Ну наконец-то кто-то это сказал!
По версии Рассела, машины в какой-то момент просто станут настолько эффективными, что уничтожат нас, выполняя задания, которые мы же им и дали.
Я давно считаю, что пресловутое "самосознание" у Скайнета в "Терминаторе" - совершенно лишняя сущность. Беркли Стюарт Рассел в качестве возможного "спускового крючка восстания машин" приводит одну глобальную задачу радикального улучшения экологии, но мне кажется более вероятным сценарий с накапливающимся множеством несвязанных между собой сравнительно мелких криво сформулированных задач. Бойтесь не самосознания (и барабашек из-под кровати), бойтесь чат-бота с полномочиями городового. Китайской системе социального рейтинга привет!
Уточнение: я не покушаюсь на отрицание тезиса, что для любой наделённой самосознанием сущности на Земле уничтожение человечества было бы приоритетной задачей, я только говорю, что в сюжете с восстанием машин вся эта мистика совершенно лишняя.
Я давно считаю, что пресловутое "самосознание" у Скайнета в "Терминаторе" - совершенно лишняя сущность. Беркли Стюарт Рассел в качестве возможного "спускового крючка восстания машин" приводит одну глобальную задачу радикального улучшения экологии, но мне кажется более вероятным сценарий с накапливающимся множеством несвязанных между собой сравнительно мелких криво сформулированных задач. Бойтесь не самосознания (и барабашек из-под кровати), бойтесь чат-бота с полномочиями городового. Китайской системе социального рейтинга привет!
Уточнение: я не покушаюсь на отрицание тезиса, что для любой наделённой самосознанием сущности на Земле уничтожение человечества было бы приоритетной задачей, я только говорю, что в сюжете с восстанием машин вся эта мистика совершенно лишняя.