Формальная теория любопытства и творчества

[evan_gcrm]

Формальная теория любопытства и творчества, разработанная Jurgen SCHMIDHUBER, объясняет все виды любопытства и творческого поведения в искусстве и науке.

Как уже повелось, зайдем из далека:


• Поскольку цель живых существ - решение проблем (выживания, репродукции и т.д.), эволюция сформировала у них специальный механизм, оптимизирующий следование этой цели: нервную систему и её центр управления - мозг.
• В мозге записывается весь жизненный опыт взаимодействия существа с его окружением. Эта запись существует в виде базы жизненных ситуаций/сцен (что чувствовал, хотел, делал и что получилось). У человека эта колоссальная информационная база способна хранить записи сцен жизненного опыта примерно за 100 лет, записанных в разумном разрешении.
• Разум проявляется в эффективности алгоритмов сжатия и компоновки базы жизненного опыта: чем выше сжатие, тем совершенней разум. Разум - это совокупность алгоритмов сжатия информации.
• Любое новое знание позволяет алгоритму повысить степень сжатия информации. Например, закон всемирного тяготения Ньютона, позволяет заменить тысячи сцен личного опыта (от наблюдения за падением яблока, до собственных ощущений от падения с лестницы) на пять символов объектов, объединенных пятью символами действий. В результате повышения степени сжатия информации в мозге, увеличивается база опыта и, соответственно, разумность. Поиск образцов подобия охватывает все бóльшую базу опыта, что положительно сказывается на оптимизации результатов действий.
• Такая форма организации мозга превращает нейронные сети в устройство хранения информации (памяти о сцене и её контекста), позволяя разуму самосовершенствоваться в результате накопления опыта.
• Взаимодействуя с миром для достижения целей, мозг строит внутренние модели мира, необходимые ему для прогнозирования (т.е. работает, как предсказатель). При этом мозг постоянно пытается ужать историю данных о прошлом опыте (т.е. работает, как компрессор). Если предсказатель/компрессор представляет собой биологическую или искусственную рекуррентную нейронную сеть, она автоматически создает иерархию признаков: нейроны нижнего уровня, соответствуют простым детекторам признаков, а нейроны более высокого уровня соответствуют более абстрактным признакам.
• Работу мозга можно представить, как обучение с подкреплением (RL) агента C, собирающего данные для улучшения его прогнозирующей модели мира M на основе рекуррентной нейронной сети (RNN), обученной на истории действий и наблюдений на данный момент.
• Формальная теория любопытства и творчества, гласит: используйте прогресс в обучении M (прогресс в увеличении сжатия информации) как внутреннюю награду (получаемое удовольствие) C. Этот общий принцип активного обучения без учителя в концепции SCHMIDHUBER объясняет все виды любопытства и творческого поведения в искусстве и науке.

Click to view

Juergen Schmidhuber: The Algorithmic Principle Beyond Curiosity and Creativity

/Источник №1//Источник №2//Источник №3/