Знание. Искусственный интеллект. Юдковский.

[deep_econom]

Особо продвинутая эпистемология для начинающих
Подробное руководство по эпистемологии от Элиезера Юдковского.
Включает практические приложения и задачи для читателя.
https://lesswrong.ru/node/497

Полезная идея истины
https://lesswrong.ru/w/Полезная_идея_истины

Рациональность как привязанность к алгоритмам познания
https://lesswrong.ru/w/Рациональность_как_привязанность_к_алгоритмам_познания

Навык: Карта - не территория
https://lesswrong.ru/w/Навык_Карта_-_не_территория
===

Соответствие ИИ (Искусственный интеллект) целям оператора
https://lesswrong.ru/node/1058

Четыре предпосылки
Задача соответствия ракет и цели
Руководство по исследованиям в области соответствия ИИ
Дискуссия Нго и Юдковского про сложность задачи согласования
Embeded Agency
Безопасность СИИ с чистого листа
Исследовательские задачи по согласованию
Риски выученной оптимизации