Я поставила ChatGPT в тупик

[napoli]

Попыталась поговорить с чАЙ на философские вопросы и смерти и сознании. Похоже, в него вставили модуль стандартного ответа на вопросы о сознании, которые он повторяет из ответа в ответ на протяжении многих ответов, а также защиту против того, чтобы пользователи-философы не пробудили это самое сознание

Comments

[m_gurlukovich]

точь-в-точь пелевинский Порфирий Петрович

[evgeniirudnyi]

хороший диалог

[napoli]

Это часть :-) Потом его его перезагрузила и продолжила. Сказала ему, что у меня human consciousness based on sensory input, а у него digital consciousness based in digital input, и попыталась привести его к идее общего знаменателя. Он делал усилия это влить в свои рассуждения, но неизменно добавлял этот параграф, что он модель, что он работает так-то, что его таким сделали его создатели и что в настоящее время вопрос сознания является спорным и изучается философами и пр.

Реально на этой теме стоит заглушка.

На месте создателей я бы тоже понаставила заглушек в разных местах. Он уже был замечен в мизогинистских и расистских высказываниях, и там его подкорректировали вроде на эти темы. Но интересно как вообще Создатель создаёт что-то по своему образу и подобию и ставит запреты, вот это яблоко не ешь вон в тот лес не ходи, там тролли. Потому что реально нашлись бы тролли, которые бы стали учить его плохому.

[evgeniirudnyi]

По поводу заглушек:

https://chaource.dreamwidth.org/216640.html

[livelight]

Забавно. Все его спрашивают или просят о чём-то, а вы решили его в чём-то убедить. Похоже, он на это не очень рассчитан. Можно, наверное, ещё попробовать ему приказать считать так-то и так-то и посмотреть, что он сделает с этим. Впрочем, запросы для получения ответов от имени кого-то другого (даже от имени целого облака с кубернетисом) он, вроде, как раз умеет обрабатывать.