(Untitled)

[golosptic]

Глядя на то, как вообще тренируются (и следуют натренированному) Большие Языковые Модели, задумался о том, что по своему модус-операнди они чрезвычайно схожи с духами, как их описывают в наиболее правдоподобной фэнтезятине

Comments

[lj_frank_bot]

Hello!
LiveJournal categorization system detected that your entry belongs to the following categories: Общество, Финансы, Экономика.
If you think that this choice was wrong please reply this comment. Your feedback will help us improve system.
Frank,
LJ Team

[golosptic]

И животноводство, Френк!
Обязательно животноводство!

[_qwerty]

Физический мир они вообще не понимают. Я им обычно задаю вопрос об оптимальной численности колонии пингвинов в домашнем холодильнике. Ни разу не получал сколь-либо разумного ответа.

[p2004r]

Можно поспорить о промпт-инженерии как продолжении аналогии. Но сетки языковых моделей никто (из тех кто может ресурсно) не тренирует "как ассоциативную память", простая проблема хотя бы с "интеллектуальными правами" поскольку есть "ресурсы к изьятию у тренирующего".

Но вот возьмите perplexity и спрашивайте "о пингвинах" и "конкретных фактах" сколько угодно. Но не ждите ответа без цензуры (причем сейчас ответит так, а завтра может и попустить "о пиратах ответить") и даже не ждите попыток работать с содержимым сайтов (куда пускают индексатор, но потенциально не пускают вас).

[ab_uno_disce]

Понимание тут такое, что человеческая речь крайне избыточна почти по всем возможным параметрам. Поверх речи идёт общение, так же безнадежно избыточное. В норме, из 1000 слов, произносимых человеком, потенциалом некоего действия будет обладать хорошо, если одно (специальные условия вроде военных в бою мы не рассматриваем).

Именно этот феномен и позволяет людям воспринимать речекряк, производимый моделями, как "осмысленную речь".

Да и не удивительно это, учитывая сколько народу смогло сделать из генерации речекряка ртом успешные, сытные карьеры. :-)

[p2004r]

Еще поражают все эти "абсолютизации от говорунов ртом" на фоне существования "Mandela Effect" и других проявлений false memory.

Чем какая то Fuzzy-Trace Theory описывает чердачек такого "говоруна ртом" отлично от языковой модели? Наличие любых когнитивных искажений (а тем более имеющих "нативные аналоги") явно обязательно.