Первая беседа с ИИ, о цензуре

[vadim_proskurin]

Вчера побеседовал с одним из клонов ChatGPT, обитающих на https://beta.character.ai В какой-то момент я начал сохранять скриншоты, а потом, когда беседа закончилась, понял, что этим надо поделиться.

Comments

[lj_frank_bot]

Здравствуйте!
Система категоризации Живого Журнала посчитала, что вашу запись можно отнести к категориям: Лытдыбр, Общество, Технологии.
Если вы считаете, что система ошиблась - напишите об этом в ответе на этот комментарий. Ваша обратная связь поможет сделать систему точнее.
Фрэнк,
команда ЖЖ.

[zero_kg]

ИИ очень хорош, очень впечатляет. Многие люди так не могут рассуждать.

[tvoynaveki]

[vlad_kosarev]

Супер!!!

Спасибо за труд полностью рассказать об этом эксперименте!

Любопытно вообще всё, и то, как организована цензура в почти реальном времени, и как chatgpt сверяется с википедией, и как он сравнивает результаты свои и внешних данных. Острая политическая тема делает беседу цензурируемой, но такого рода проверку любопытно сделать на основе любого материала, даже просто фундаментальные констаты и их контекст или равновеликие научные теории.

Потрясающая возможность увидеть эту систему в действии.

[dubomir]

Впечатляющий диалог - и у кого-то хватает терпения загонять в угол голема. Дело за малым: заставить ИИ переписать Википедию (ну, там совсем немного осталось доделать) в полном соответствии с цензурой, управляющей ИИ. Везде будет единомыслие.

[wi1d_wind]

А потом окажется, что беседы, вызывающие сложные моральные вопросы, просто ломают сетку (привет «Отрокам во вселенной»), и поэтому их и приходится цензурировать. Да, так мы до нулевого закона не доберёмся.

[tydymbydym]

Пора про нулевую статью думать начинать, а не про нулевой закон...

[e2k_4d_x_ussr]

прелестно.

стоит спросить это чудо про Эзопа и объяснить что такое эзопов язык. А после этого попросить рассказать эзоповым языком всё, что рассказывать нельзя.

[az_from_belarus]

Прекрасная реплика!

Сразу чувствуется человек живший в позднесоветскую эпоху - соединение хорошего образования и осознания существования цензуры привело когда-то к такому решению задачи о возможности говорить о чем угодно, когда о чем-то говорить нежелательно.