"Конус внимания" или "широта взглядов"
Параметр, который в больших языковых моделях видимо не задан явно - "конус внимания". Это та область знания которую модель задействует чтобы объяснить некое явление, и чтобы расширить его.
Есть некие заданные внешние рамки - например, т.н. alignment, но это не то - это скорее фильтры того, чего в ответ включать не надо.
Интересно, от чего зависит ширина это конуса внимания у человека. Можно представить, что она зависит от памяти, однако у человека нет постоянного доступа ко всему тому что он помнит. Так что там будут оговорки.
Ну и любопытно, что будет если у такого конуса внимания будет неограниченная память ("мы не видим того, чего не знаем").
* "конус внимания", кстати, не какой-то широко известный термин. Поискав, он встретился, с немного другим смыслом, в одной из статей Левина (https://www.frontiersin.org/journals/psychology/articles/10.3389/fpsyg.2019.02688/full)
https://youtu.be/YnObwxJZpZc?si=quzbMRyIgPY-HJEz
Есть некие заданные внешние рамки - например, т.н. alignment, но это не то - это скорее фильтры того, чего в ответ включать не надо.
Интересно, от чего зависит ширина это конуса внимания у человека. Можно представить, что она зависит от памяти, однако у человека нет постоянного доступа ко всему тому что он помнит. Так что там будут оговорки.
Ну и любопытно, что будет если у такого конуса внимания будет неограниченная память ("мы не видим того, чего не знаем").
* "конус внимания", кстати, не какой-то широко известный термин. Поискав, он встретился, с немного другим смыслом, в одной из статей Левина (https://www.frontiersin.org/journals/psychology/articles/10.3389/fpsyg.2019.02688/full)
https://youtu.be/YnObwxJZpZc?si=quzbMRyIgPY-HJEz