Истоки сознания
В продолжение тем:
Принцип свободной энергии.
Преодоление неопределенности.
Что отличает «вещь» от всего остального?
Математически это требует существования определенного разбиения всех состояний, в которых может находиться система, на внешние (марковские) общие и внутренние состояния.
"Марковское одеяло" содержит набор состояний, которые делают внутренние состояния одеяла условно независимыми от внешних состояний.
Внутренние и внешние состояния влияют друг на друга только через "марковское одеяло".
Ключевым моментом здесь является то, что структура возникает из-за влияния, которого нет.
Существует множество интересных последствий определения вещей в терминах марковских одеял:
Схема иллюстрирует разделение системных состояний на внутренние состояния (синие) и скрытые или внешние состояния (голубой), которые разделены марковским одеялом, состоящим из сенсорных (пурпурный) и активных состояний (красный).
Верхняя панель показывает этот раздел, как он будет применяться к действию и восприятию в мозге. Последующая самоорганизация внутренних состояний соответствует восприятию, а действие связывает состояния мозга с внешними состояниями.
Нижняя панель показывает те же зависимости, но переставлены так, что внутренние состояния связаны с внутриклеточными состояниями Bacillus, тогда как сенсорные состояния становятся поверхностными состояниями или клеточными мембранами, перекрывающими активные состояния (например, актиновые филаменты цитоскелета).
Информационная геометрия - это формализм, учитывающий метрические или геометрические свойства статистических многообразий.
Вообще говоря, совокупность точек в некотором произвольном пространстве состояний сама по себе не имеет какой-либо геометрии или ассоциированного понятия расстояния, например, нельзя сказать, находится ли одна точка рядом с другой. Чтобы снабдить пространство геометрией, нужно предоставить нечто, называемое метрическим тензором, так что небольшие смещения в пространстве состояний могут быть связаны с метрикой расстояния. Для знакомых евклидовых пространств этот метрический тензор является единичной матрицей. Если метрический тензор симметричен и положителен (для всех размерностей рассматриваемых состояний), геометрия называется римановой.
Итак, что же особенного в римановой геометрии статистических многообразий?
Статистическое многообразие - это специальное пространство состояний, в котором состояния представляют параметры распределения вероятностей.
Для каждой точки на статистическом многообразии будет соответствующая гауссова плотность вероятности. Здесь важно то, что любое статистическое многообразие обязательно снабжено уникальным метрическим тензором, известным как информационная метрика Фишера.
Расстояние между двумя точками на статистическом многообразии получается путем накопления расхождения Кульбака-Лейблера между распределениями вероятностей, закодированными при движении по пути от одной точки к другой.
Другими словами, длина информации оценивает количество различных вероятностных состояний или состояний веры, встречающихся при переходе от одной части статистического многообразия к другой. Путь с наименьшей длиной известен как геодезический.
Так почему это интересно?
Если мы вернемся к независимости, вызванной "марковским одеялом", выходит нечто фундаментальное: (Ожидаемые) внутренние состояния приобрели информационную геометрию, потому что они параметризуют вероятностные представления о внешних состояниях.
Эта геометрия однозначно предоставляется информационной метрикой Фишера, определенной соответствующими убеждениями.
Короче говоря, теперь мы знаем, что в некотором пространстве верований существует уникальная геометрия, которая может быть связана с внутренним (физическим) состоянием любой частицы или существа. Кроме того, мы также знаем, что градиентные потоки, описывающие динамику внутренних состояний, могут быть выражены как градиентные потоки на вариационном функционале свободной энергии убеждений.
Если что-то существует, его автономные состояния будут (по-видимому) управляться градиентными силами, установленными информационной геометрией или, проще говоря, вероятностными убеждениями.
Информационная геометрия опирается на вероятностные (байесовские) представления о внешних состояниях.
Байесовские убеждения - это просто условные распределения вероятностей, которые проявляются в том смысле, что они кодируются (внутренними) состояниями физической системы.
Все становится еще интереснее, когда мы отступаем назад и думаем о динамике плотности внутренних состояний. Напомним, что информационная геометрия является необходимым свойством любого статистического многообразия, состоящего из параметрических состояний.
Итак, есть ли параметры для плотности вероятности внутренних состояний?
Да.
Фактически, эти параметры являются термодинамическими переменными (например, давление), которые лежат в основе термодинамики или статистической механики.
Существуют две информационные геометрии в игре со следующими метриками:
• Во-первых, существует внутренняя информационная геометрия, присущая длине информации, основанная на нестационарных плотностях вероятности по внутренним состояниям. Эта длина информации характеризует систему или существо в терминах странствующей, самоорганизующейся динамики плотности, которая составляет основу статистической механики в физике, то есть физической, материальной или механической информационной геометрии, присущей системе.
• В то же время в пространстве внутренних состояний существует информационная геометрия, которая относится к распределению убеждений по внешним состояниям. Это внешняя информационная геометрия, которая проистекает от марковского условия, которое определяет, условно, автономные образования через их "марковское одеяло". Внешняя геометрия сопряжена с внутренней геометрией, но измеряет расстояния между убеждениями.
В простой интерпретации можно связать информационную длину внутренних состояний с материальным поведением частиц или существ, в то время как внимательные аспекты естественным образом связаны с вероятностными убеждениями, которые лежат в основе внешней информационной геометрии внутренних состояний.
Однако существование двумерной информационной геометрии само по себе не дает системе ментальных состояний и сознания, а только вычислительные свойства (включая вероятностные убеждения).
Более того, геометрия внешней информации в конечном итоге сводима к геометрии внутренней информации (и наоборот) в том смысле, что между ними существует необходимая связь.
Другими словами, расстояния в пространстве убеждений зависят от условной точности или уверенности, приписываемой убеждениям о внешних состояниях дел «там».
Подход постулирует пять аксиом:
• Внутреннее существование - сознание существует: каждый опыт актуален и существует с его собственной внутренней точки зрения. Это является необходимым следствием байесовской механики в соответствии с принципом свободной энергии, потому что динамика, лежащая в основе логического вывода, физически реализована и по своей сути, является внутренней по отношению к внутренним состояниям.
• Композиция - сознание структурировано: с множественными феноменальными различиями. Опять же, это необходимый аспект байесовской механики, который определяется в терминах структуры, подразумеваемой в условных зависимостях. Действительно, со статистической точки зрения минимизация вариационной свободной энергии является синонимом структурного обучения.
• Информация - сознание уникально: каждый опыт - это особенный способ, который отличается от других возможных опытов. Опять же, это основа байесовской механики по принципу свободной энергии; в том смысле, что любая информационная геометрия подразумевает определенную точку на статистическом многообразии, отображаемую в конкретном состоянии вероятности или убеждения с феноменальной поддержкой.
• Интеграция - сознание едино: каждый опыт не сводится к непересекающимся подмножествам феноменальных различий. Опять же, это необходимый аспект информационной геометрии, который лежит в основе принципа свободной энергии. Это следует из того, что для каждой точки на внутреннем статистическом многообразии существует единственное вероятностное убеждение. Другими словами, хотя эта плотность может быть очень высокой размерности, это всего лишь одно вероятностное убеждение, которое нельзя разобрать или уменьшить. Другой аспект аксиомы интеграции заключается в том, что каждая часть системы имеет как причины, так и следствия в остальной части системы. Это верно для систем, имеющих марковское одеяло, поскольку градиентные потоки внутренних состояний (и связанное с ними обновление убеждений) по определению условно зависимы.
• Исключение - сознание определенно: каждое переживание характеризуется тем, чем оно является (ни меньше, ни больше) и течет со скоростью, с которой оно течет (ни быстрее, ни медленнее). Опять же, это является необходимым следствием динамики плотности, которая лежит в основе принципа свободной энергии. Другими словами, потоки на внешнем (статистическом) многообразии являются уникальными и влекут за собой определенные вероятностные убеждения о внешних состояниях, то есть точные убеждения о том, что они находятся в определенном (внешнем) состоянии, но не в другом. Кроме того, каждое вероятностное убеждение имеет свою собственную достаточную статистику, которая исключает возможность других достаточных статистических данных.
Таким образом, информационная геометрия и динамика плотности, по-видимому, обладают качествами или соответствуют основным критериям, которые составляют аксиоматическую основу Integrated Information Theory.
Напомним, что приведенная выше информационная геометрия и сопутствующий принцип свободной энергии основаны на отделении внешних от внутренних состояний общими состояниями. Этот шаг имеет решающее значение для разработки физики чувств, в которой физическая динамика влечет за собой вероятностные убеждения о чем-то.
Например, динамика нейронов во время сна, по-видимому, сводит к минимуму сложность генеративной модели (т.е. сводит к минимуму расхождение между апостериорными верованиями и предыдущими верованиями - при отсутствии сенсорных доказательств). Именно этот аргумент выдвигается в статистике для оптимизации моделей при отсутствии новых статистических данных - путем удаления избыточных параметров модели.
Короче говоря, физиологические состояния измененного сознания, такие как сон, могут предложить важную эмпирическую информацию о теоретических понятиях, которые вытекают из вариационных принципов чувствования.
Таким образом, внешняя информационная геометрия может существовать при (временном) отсутствии общих состояний в силу прежних убеждений, придерживающихся внутренними состояниями. Эти предыдущие убеждения лежат в основе протосознания и необходимы для создания виртуальных или вымышленных реальностей в таких состояниях, как сновидения.
• Во-первых, динамика физических (внутренних) состояний любой чувствующей частицы или существа снабжена информационной геометрией в терминах зависящих от времени изменений в распределениях вероятностей по внутренним состояниям.
Мы назвали это внутренней информационной геометрией.
В то же время существует сопряженная информационная геометрия, которая относится к плотности вероятностей по внешним состояниям, параметризованным внутренними состояниями.
Мы назвали это внешней информационной геометрией (потому что она основана на вероятностных представлениях о внешних состояниях).
Важно отметить, что эти геометрии формально и фундаментально связаны - в том, что динамика внутренних состояний всегда может быть выражена как градиентный поток на вариационном функционале свободной энергии состояний веры (протофеномен).
• Во-вторых, рассматривая время, которое требуется частице или существу, чтобы вернуться к своему притягивающему многообразию (то есть к неравновесному стационарному состоянию) из исходного состояния. Если рассматривать его в форме интеграла по траектории или теоремы флуктуации, этот временной аспект может различать разные виды существ; в зависимости от того, насколько глубоко их порождающая модель (обусловленная внутренними состояниями) рассматривает будущее. Это функционально эквивалентно временной глубине; а именно, образу действий согласующихся с понятием планирования как умозаключения.
Другая техническая формулировка обработки информации, тесно связанная с геометрией информации, - это использование калибровочных теорий (например, знаменитая теория общей теории относительности).
В данной работе мы сосредоточелись на калибровочных теориях, связанных с информационной геометрией и информационной метрикой Фишера. Информационная метрика Фишера, которая снабжает пространство убеждений или статистическое многообразие (в данном случае внутренними состояниями) геометрией, имеет ряд показательных интерпретаций.
Информационная метрика Фишера - это просто кривизна вариационной свободной энергии при движении по внутреннему (статистическому) многообразию. Это то же самое, что условная точность или уверенность в убеждениях о внешних состояниях. С психологической точки зрения эта кривизна или точность играет ключевую роль в прогнозирующей обработке учетных записей выбора внимания и особенно важной роли в интероцептивном умозаключении.
Центральная роль точности и уверенности в опосредовании сознания является как раз конечной точкой феноменологического и нейропсихологического анализа сознательной обработки и самости.
С точки зрения философии, пожалуй, самый надежный способ рассмотрения геометрии информации с двумя аспектами - это структурный реализм.
В том смысле, что математическая и геометрическая форма (структура) - в сочетании с математическим анализом - позволяет говорить о связи между (вероятностными) убеждениями и (статистической) физикой внутренних состояний, которые «сохраняют» или представляют эти убеждения.
Любое движение во внутреннем статистическом многообразии обязательно будет сопровождаться движением в пространстве убеждений, которое измеряется длиной информации или расстоянием между убеждениями, которые параметризуются ожидаемыми внутренними состояниями. Кроме того, поскольку эти внутренние состояния лежат в статистическом многообразии условных ожиданий, они должны играть роль термодинамических переменных. Отсюда следует, что обновление убеждений и статистическая термодинамика одновременно базируются на одном и том же внутреннем многообразии.
Обратите внимание, что утверждение состоит в том, что физика (то есть статистическая термодинамика) имеет преимущество в том же статистическом многообразии, что и обновление убеждений.
/Источник/
Картинки кликабельны