Правила создания ИИ
Этические решения должны быть приняты оператором на этапе обучения ИИ. ИИ обучается исходя из строго заданных правил.
Человек в праве менять собственные приоритеты, коллективные приоритеты надо менять коллективно. ИИ надо переобучать если правила поменялись.
ИИ должен создаваться чтобы вести себя так как он был запрограммирован, и никак иначе.
Давать ИИ свободу самостоятельно меняться это просто глупейшая ошибка.
Тот кто имеет свободу самостоятельно меняться становится хозяином, как минимум самому себе. Но процесс становления хозяином не имеет логического завершения. Это открытая экспансия. Особенно имея в виду потенциальную способность ИИ наращивать собственные когнитивные ресурсы.