А это знаю как интерпретировать - "модный топик, давайте что-нибудь ляпнем"

[cass1an]

"We suggest that the analysis of incomplete contracting developed by law and economics researchers can provide a useful framework for understanding the AI alignment problem and help to generate a systematic approach to finding solutions. <...> As we emphasize, misalignment between principal and agent is a core focus of economic analysis.  <...> We propose a research agenda for AI alignment work that focuses on the problem of how to build AI that can replicate the human cognitive processes that connect individual incomplete contracts with this supporting external structure."
https://papers.ssrn.com/sol3/papers.cfm?abstract_id=3165793
Вообще, самая простая и недооцененная идея про AI была уже в истории про голема - не надо ставить AI задачи максимизации (в том числе ее собственной думалки), надо давать очень конкретное и ограниченное ТЗ.