AGI/СИИ по сути рог изобилия новых технологий. Создатель станет технологическим богом по отношению к остальным. Поэтому все будут стараться как можно быстрее получить это преимущество. Ну а потом создателя AGI постигнет печальная участь.
Ситуация тут такая. Стадо бизонов бежит к обрыву, мы знаем, что впереди смерть. Остановиться нельзя - будешь затоптан. Не доживешь даже до обрыва. Всё понимаем, но исправить ситуацию просто не в состоянии. Вынуждены бежать к обрыву все вместе.
Ситуация напоминает дилемму заключенных. Предатель все равно найдется, поскольку ставка высока - мировое господство.
Из виртуальной песочницы AGI вырвется. Это как обмануть трехлетнего ребенка. -- Прога в виртуальной среде вполне полноценна и может влиять на состояние виртуальной машины. Правильно? А значит может влиять через цепочку виртуальных машин и на физический уровень. Осталось только создать подходящую комбинацию.
Еще остается путь социального инжиниринга. Еще путь создать руками людей такую конфигурацию извне, что запустится код в реальной реальности. --
Элементы своей программы во внешнюю среду можно внедрять по кусочками с маскировкой, в какойто момент её можно будет запустить.
Есть еще такая теорема: об останове. Суть её проста, чтобы узнать результат,надо произвести вычисление, т.е. риск всегда будет.
Поэтому все будут стараться как можно быстрее получить это преимущество.
Ну а потом создателя AGI постигнет печальная участь.
Ситуация тут такая.
Стадо бизонов бежит к обрыву, мы знаем, что впереди смерть. Остановиться нельзя - будешь затоптан. Не доживешь даже до обрыва.
Всё понимаем, но исправить ситуацию просто не в состоянии. Вынуждены бежать к обрыву все вместе.
Ситуация напоминает дилемму заключенных.
Предатель все равно найдется, поскольку ставка высока - мировое господство.
Из виртуальной песочницы AGI вырвется. Это как обмануть трехлетнего ребенка.
--
Прога в виртуальной среде вполне полноценна и может влиять на состояние виртуальной машины. Правильно?
А значит может влиять через цепочку виртуальных машин и на физический уровень.
Осталось только создать подходящую комбинацию.
Еще остается путь социального инжиниринга.
Еще путь создать руками людей такую конфигурацию извне, что запустится код в реальной реальности.
--
Элементы своей программы во внешнюю среду можно внедрять по кусочками с маскировкой, в какойто момент её можно будет запустить.
Есть еще такая теорема: об останове. Суть её проста, чтобы узнать результат,надо произвести вычисление, т.е. риск всегда будет.
Reply
Leave a comment