Проблема: ChatGPT не может не врать

[dmitrmax]

Поразвлекался я с этой модной штучкой пока болел. Не могу сказать, что это поделие и так далее. По крайней мере оно пишет грамотно, в отличии от многих русских, переживающих за права русскоязычных в других странах ) Но это ладно.

Я не понимаю, как она могла пройти тест Тьюринга? То, что ты общаешься с ботом, становится понятно через несколько фраз

Comments

[mubarizoruc]

Я ему задал 1 вопрос. Летали ли люди на Луну. Он мне стал копипейстить текст из Википедии. Я сразу понял, что никакой это не искусственный интеллект пока что. Сырой он.

[dmitrmax]

А какой вы ожидали от него ответ? Если сейчас, например, провести злой эксперимент над одним из моих детей и начать ему по-тихоньку скармливать инфу о том, что американцы не были на Луне, а это была постанова, то через 5-6 лет уже будет готовый к дискуссии юнит, абсолютно убежденный в этом факте. Я, естественно, не буду так делать, но этот умозрительный эксперимент показывает нам, что можно вполне себе и неискусственный интеллект пустить на путь, который ведет к разрушенному мосту. Можно ли будет сказать, что это не интеллект вообще? Думаю, что нет. Он всё ещё будет более интеллектом чем текущий ChatGPT.

Резюмируя: проверять интеллект по эрудиции - это довольно бесполезное занятие, так как более всего результат зависит о данных, на которых происходило обучение. Сами возможности [потенциального] интеллекта это ни коим образом не раскрывает.

[mubarizoruc]

Программа Аполлон это не столько вопрос эрудиции, сколько и проверка на критическое мышление. На сопоставление разных свидетельств или отсутствие оных.
Те материалы, которые показывают мне в качестве доказательств полетов людей на Луну, вызывают у меня как минимум недоумение.

[mindfactor]

> я спросил: «знаешь ли ты анекдот, который заканчивается словами: «Ну, какую русалочку тут по носу щёлкнуть?».

то есть такого анекдота на самом деле нет ?

[dmitrmax]

Нет, анекдот такой, конечно, есть. Я просто под впечатлением того, что я о ChatGPT наслышан, не сомневался, что он мне его расскажет сам. Но оказалось, что всё далеко не так. А сам анекдот вот:

Поймали людоеды троих - русского, американца и немца. И сказали, что всех их съедят, но если кто переплывёт реку с крокодилом, щёлкнет по носу злого циклопа в пещере и выебет русалку, того отпустят. Ну поплыл американец через реку, опа-па и его крокодил сожрал. Немец поплыл и переплыл, забегает в пещеру к циклопу, из пещеры раздаются крики, и через минуту вылетает голова немца. Поплыл русский через речку, переплыл, забегает в пещеру дерется час, два - пыль летит охи, ахи, непонятные звуки. Выходит через час, руки потирает и говорит:
- Ну, какую русалочку тут по носу щёлкнуть?

[zateevo]

🙂

[mindfactor]

> не сомневался, что он мне его расскажет сам.
> Это чудо принялось сразу отвечать, но только не «Да»/«Нет», а «Да» и далее рассказывает мне анекдот.

некоторые сами не знают, чего они хочут (с)

>Но оказалось, что всё далеко не так.

Очевидно, что на русском языке его тренировали слабо, вот и всё. Максимум толстоевского запихнули.

[zateevo]

про русалку - даже не яндексится. Расскажите, плз

[zateevo]

о! увидела в комментах

[myx_ostankin]

Ага, тоже наткнулся на эту его особенность. Видимо, ему строго запрещено отвечать "я не знаю", "у меня недостаточно информации". Всегда нужно что-то ответить.

Интуитивное желание использовать ChatGPT как гугл с человеческим лицом - это большая ошибка. Он не умеет искать в интернете (он вообще от него изолирован, насколько я знаю), поэтому если он чего-то не знает, то он с умным видом наплетёт отсебятины и даже не покраснеет.

У Сёмина недавно видел прекрасное (его я тоже иногда читаю, да) :)