Иллюзия
В какой степени можно сказать, что люди представляют самих себя?
В какой степени можно сказать, что другие организмы или, в более общем плане, другая общая физическая система может наблюдать, представлять и контролировать свои собственные внутренние процессы?
Эти вопросы, очевидно, касаются вопроса о том, в какой степени автономные агенты могут считаться «самосознательными» в своих действиях.
Теория активного вывода, основанная на принципе свободной энергии (FEP), обеспечивает полностью общее описание таких систем в рамках классического или квантового формализмов. Следовательно, эти вопросы о самонаблюдении, репрезентации и контроле являются фундаментальными для теории активного вывода.
В рамках классического и квантового формализмов авторы работы "Principled Limitations on Self-Representation for Generic Physical Systems" математически доказали, что «самопознание» в основе своей конфабуляторно, как у людей, так и у других интеллектуальных систем.
Термин "конфабуляторный" (confabulatory) происходит от слова "конфабуляция" (confabulation), которое в медицинском и психологическом контексте означает процесс заполнения пробелов в памяти выдуманными историями или фактами, которые человек считает правдивыми, даже если они не соответствуют действительности. Это не обязательно сознательный процесс, и человек, создающий конфабуляции, может искренне верить в их правдивость.
В данном контексте, утверждение о том, что самопознание "фундаментально конфабуляторно", подразумевает, что процессы, посредством которых субъекты (люди и иные агенты) приходят к пониманию себя, в значительной степени основаны на создании историй или объяснений, которые могут не полностью соответствовать объективной реальности. Это может указывать на то, что наше самопознание и понимание собственного внутреннего мира часто строятся на неполных данных, предположениях и интерпретациях, склонных к ошибкам и искажениям.
Так в какой степени автономные агенты могут считаться «самосознательными» в своих действиях?
Ответ авторов однозначен и математически обоснован:
• Добавление компоненту системы на метауровне возможностей наблюдения, репрезентации или управления не может, даже в принципе, вести к полной метауровневой репрезентации системы в целом;
• То есть саморепрезентация, в лучшем случае, может быть эвристической, а модель самой себя, в принципе, не может быть эмпирически проверена системой, которая её реализует.
Не только мир конкуренция иллюзий, но и мы сами.
На ум приходят два фундаментальных вывода:
• Люди и LLM так и останутся «черными ящиками" для самих себя, лишь частично растворяя интроспективное самопознание заменой его на эвристику самомоделирования и конфабуляции.
• Неопределенность и воплощенность - два важнейших компонента интеллекта и осознанности, без которых невозможно полное пониманию того, что значит быть активным воплощенным разумом.
/Источник/