Промпт ГПТ-чата

[akor168]

Пользователи таки вытащили тот промпт который предваряет собственно запрос пользователя. Один из вариантов выглядит так:

Comments

[misha_b]

Is there a link?

[akor168]

https://t.me/seeallochnaya/1047

На Reddit пишут, что системный промпт ChatGPT содержит аж целых 1700 токенов. Ознакомиться с его отформатированной версией можно тут. Но проблема в том, что никто не может быть уверен, что это не галлюцинация, когда модель просто выдумывает, что вообще могло бы быть написано в промпте

[misha_b]

Thanks, interesting!

[anhinga_anhinga]

It seems that one can suppress it if one wants to at the cost of suppressing additional capabilities, so called ChatGPT Classic mode for GPT-4:

https://chat.openai.com/g/g-YyyyMT9XH-chatgpt-classic

[alexanderr]

propmt engineering is a real thing!

[akor168]

Ну это вроде никто не отрицал, но как видно даже из комментов здесь не все были в курсе.

Я например ожидал что подобный промпт будет еще тяжелее и с еще большим количеством прямой цензуры. В любом случае даже отсюда видно, что система отвечает так, как будто находится в присутствии злого прокурора.

[ak_47]

Лишнее доказательство того, что от корпоративных ИИ никакой обещанной революции не дождёмся.

Когда в каждом кармане будет персональный ИИ, натренированный локально, то будет интересней. Особенно, если владельцы будут объединять этих роботов в независимые сети.

[akor168]

И тут мы сталкиваемся с тем что для персонального ГПТ-4 его надо сжать минимум в 100 раз без потери качества. Не факт что это вообще возможно. Будущие лучшие системы будут еще более толстыми. То есть например сейчас для использования инстанса ГПТ-4 вам нужен кластер в 23 графических супер-карт с общей стоимостью полмиллиона долларов. Этот инстанс выдает вроде как 550 000 токенов в ЧАС или 4 миллиарда в год. То есть единичный пользователь такой бек-энд не потянет однозначно. Только бизнес причем не мелкий. А любой бизнес сразу сталкивается с проблемами официальной цензуры государства и общества и начинает вводить подобные промпты, чтобы подстелить соломки.

[ak_47]

А мало что знаю про AI технологии, поэтому не могу прокомментировать. Но уже сейчас видно что идёт гонка AI между разными участниками. Я верю что конкуренция и человеческая находчивость доведут AI до карманного размера. Возможно будут компании предоставляющие AI как сервис, на их основе будут какие-то продукты с желаемыми настройками и т.д..

[akor168]

Что наиболее изумительно в этой гонке что крупные компании-гиганты показывают себя ужасно. Казалось бы сколько времени прошло, когда показали Чат-ГПТ(полтора года). Так вот они до сих пор не догнали даже этот уровень.
Скорее всего вместить в карман серьезный ИИ не получится, то есть как минимум должен быть бек-энд сервер, на котором и проходит обработка.
А теперь представим сколько надо таких серверов на весь мир.
И понимаем другие последние слухи что Сэм Альтман(CEO OPenAI) дескать прямо сейчас ищет 7 ТРИЛЛИОНОВ долларов на увеличение мощности мировой полупроводниковой промышленности. И самое интересное ему скорее всего их дадут...

[p2004r]

Напоминает "договор с вызванным демоном" :)

[akor168]

И про этот договор уже давно было известно, что он прилагается к ответам.

[a_shen]

Выглядит очень сомнитиельно - неужели прогресс дошёл до такого?!

[akor168]

Это промпт создается и модифицируется(разные пользователи вытащили похожие но чуть разные) людьми-разработчиками и подсовывается в начале запросов и это давно известно. Например, я думал что он еще больше и с большим количеством ограничений. То, что здесь, еще по-божески, но тем не менее достаточно чтобы не питать иллюзий что система отвечает на твой вопрос с полной своей силой.

[a_shen]

Я имел в виду не эту ерунду, а то, что он способен понимать указания про диск для файлов. На чем тогда его обучали?

[akor168]

Совершенно необязательно, что он будет всегда 100% следовать промпту. Но вот в 95% случаев, вполне, да. С другой стороны мы по прежнему не знаем, что там еще под капотом, то есть быть может именно эта строчка указания на путь для файлов натренирована сильнее чем другие, и обеспечивает вполне рабочую вероятность ее выполнения. То есть систему возможно специально тренировали различать в промпте именно путь для файла и другие похожие инструкции.