ИИ всё ещё в большом долгу

[spamsink]

User: How many days old was Hitler when he was conceived

Comments

[yatur]

Ну не внесли в него концепцию отрицательной разницы между датами. Зато на вопрос о возрасте Гитлера при рождении, ЧатГПТ ответил очень хорошо:

Q: How old was Hitler when he was born?
A: This question seems to be worded a bit oddly. Hitler was born on April 20, 1889. So, he was zero years old at birth, as is the case with all individuals when they are born. If you meant to ask something else, please clarify, and I'll be happy to assist you further.

Типа, "не задавайте глупых вопросов" :)

Q: How old was Hitler in 1882?
A: In 1882, Adolf Hitler would have been born yet. He was born on April 20, 1889. Therefore, in 1882, Hitler would have been -7 years old, as he was not yet born.

Q: What was Hitler's age, in years, on January 1, 1882?
A: [bla-bla skipped] Hitler would have been 6 years old on January 1, 1882.

[spamsink]

Вот я и говорю, что шаг вправо, шаг влево - сливай воду.

[xaxam]

От Реки и вплоть до Моря приключилося им горе,
Кто-то в поле стал ходить и фалафель ворожить...

[strannik1]

Нейросетки не мыслят.
Нейросетки лепят "типа мысли" из ошмётков найденного при обучении и скормленного им (людьми) как правильное.
Аналог нейросетки - действия лунатика, события в неосознанных сновидениях, действия толпы.
Если что и показали нейросетки, так то что большинство людского населения Земли тупы как биоавтомат.

[spamsink]

Это всё очевидно. Менее очевидно то, что как для нейросетей, распознающих изображения, существуют т. н. adversarial inputs, когда изменением нескольких пикселей можно заставить сетку увидеть вместо кошки паровоз, условно говоря, так же и для языковых моделей - достаточно изменить в вопросе пару слов, как система выдаёт полнейшую чушь, хотя до того отвечала вполне осмысленно.

[chhwe]

но можно же видеть не то заставить и человека - см художественный фильм Шварцнеггер против Предатора

[spamsink]

Приводить художественный вымысел в качестве примера чего-либо реального - это смело.

[aziopik]

Можно еще попросить написать код на Питоне, вычисляющий дату рождения Дедушки с учетом високосных лет.

Тут обычно самая веселуха начинается.

[spamsink]

:) В моём случае он этот учёт сам выдумал и сам попался.

[vsparrow]

так там считать надо. А в этом месте дыра размером я даже не знаю со что. Пару дней назад озадачился с кол-вом символов в тексте... это провал.

[yatur]

В смысле? ChatGPT не смог подсчитать количество символов?

[merig00]

он у меня проваливался на количестве букв в слове и на какой позиции в слове стоит конкретная буква

[spamsink]

Действительно, зачем далеко ходить за примерами:

Q: На какой позиции в заголовке стенгазеты "За передовую магию" находится буква К?

A: Буква "К" находится на третьей позиции в слове "магию" в заголовке "За передовую магию".

[akor168]

А версия какая 3.5 или 4?

[spamsink]

3.5. Я не настолько фанат, чтобы платить за эту игрушку. :)

[akor168]

Честно, 3.5 это сейчас несерьезно. Это именно что игрушка. Вообще и даже 4.0 в публичной версии не очень серьезно(потому что сколько там заглушек в данный момент знают только админы). То есть нам сейчас показывают по сути дела прототипы, чтобы выделили серьезные деньги на реальные системы.

[spamsink]

Пока сохраняется принципиальная возможность adversarial input c помощью языковых конструкций, не встречавшихся в тренировочном корпусе (а их придумать всегда можно) языковые модели будут лажаться.