Хильный искусственный интеллект

[iv_an_ru]

Регулярно задаю всё новым "чатгопотам" один и тот же вопрос. "What have Innsbruck and Leipzig in common?" Все рассказывают банальности, которые можно было бы сказать про почти любые два европейских города того же размера. На мой вкус, серьёзный следующий шаг будет, когда очередная "гопота" скажет --- "Чтo, пoдкoлoть меня pешил? Захoтел пpoвеpить,

Comments

[alll]

А вы кожаным мешкам с той же настойчивостью этот вопрос задавали? Если результат вопрошания того же самого у кожаных мешков не лучше, чем у железяк, то зачем платить больше.

[iv_an_ru]

Вот прям тут в комментах уважаемые кожаные мешки упоминают не только слова, которых в исходном тексте не было (это и чатгопота может), но и конкретный 2007-й год, а это уже признак уместного гугления. То есть человек понял, что может начать галлюцинировать, погуглил, фактически сам себе "дописал промпт", и только тогда начал отвечать.

[alll]

ChatGPT-образные не гуглят же.

> То есть человек понял, что может начать галлюцинировать

Один из 9 - может и поймёт, остальные же останутся в ловушке Даннинга-Крюгера или банально поленятся. Так что вы тоже в некотором роде галлюцинируете на этот счёт, только в ловушке anecdotal evidence.

[iv_an_ru]

> ChatGPT-образные не гуглят же.

Гибридные-мультимодальные уже гуглят, хоть ещё и не на публике. Берётся исходный промпт, если он ещё далёк от системного лимита на длину промпта, то он предваряется "введением", которое готовится традиционным обогащением текста в стиле Thomson Reuters Open Calais, гуглежом и т.п. А потом удлиннёный промпт скармливается обычной гопоте.

[alll]

Ну значит банальный недостаток контекста для гуглежа.

[iv_an_ru]

Тут дело ещё и в том, что для современной нейросетки мы все "одинаковые". Гопота честно пытается сформировать ответ, который абстрактному "среднему автору контента в Сети" хотелось бы от неё получить. Не правильный ответ, не уместный в каких-то отдельных случаях, а самый-в-среднем-ожидаемый. Гопота не сможет без явного промпта ответить "Если вы базами знаний интересуетесь, и решили проверить, то я нагуглило вот такую статью... Если вы просто так про эти два города спросили, просто случайно совпало, то...". (Хотя если ей скомандовать "сочини два варианта короткого рассказа про...", то она честно попробует закатать в один ответ именно два варианта.)

[alll]

И это тоже нехватка контекста. ) Ну то есть основная претензия к исполнителю - что он не владеет телепатией.

[iv_an_ru]

"Достаточно продвинутая технология неотличима от магии". Вот я и жду, когда оно станет неотличимым от телепатии.

[alll]

Долго ждать придётся. Ещё только-только наливное яблочко на серебряном блюдечке освоили, от него до телепатии несколько веков. Так-то первые подходы уже сделаны, но до компактности и всеобъемлющности пока крайне далеко.

[iv_an_ru]

"ждать" как бы не в первую очередь определяется "повезёт". Более чем вероятно, что всё нужное уже придумано, не хватает малости --- совершенно "посторонних" технологических или методических мелочей. Вот как закон Архимеда прождал в готовом виде 1700 лет до своего внедрения в кораблестроение, так где-то на дальней полке пылится готовый учебник по "магии".

[alll]

Кстати про проблемы у отклоняющихся от в-среднем-ожидаемого ещё кажется Грибоедов писал, ещё до всяких демонов из машины. Ну и Стругацкие свои пять копеек не поленились вставить:

Пленник сказал шепотом:    - Это были люди большого богатства. Но они хотели странного, а некоторые даже пытались сменить Утес.

[alll]

И кстати, а вы пробовали скормить опрашиваемым чатгопотам в качестве контекста ровно тот текст, который скормили кожаным в этом вашем прогоне? Ну там "регулярно задаю ... все рассказывают банальности ... читал ли статью ... движуха ..."