Наукообразный идиотизм

[mns2012]

В Великобритании семья попала в больницу после употребления ядовитых грибов. Они были собраны по рекомендациям книги, купленной на крупной онлайн-платформе

Comments

[livelogic]

> The book is entitled something similar to: "Mushrooms UK: A Guide to Harvesting Safe and Edible Mushrooms."
> "In conclusion, morels are delicious mushrooms which can be consumed from August to the end of Summer. Let me know if there is anything else I can help you with."
> it appears there are dozens more in a similar style.

Судя по этим признакам - "бред" ака "вброс", достойный ЕИ.

similar, Карл. Как страшно жить.

[mns2012]

Откуда всё это появилось? Конечно, из ЕИ. Каковы данные, таковы и результаты. Но ИИ нуждается в человеке, чтобы положить предел галлюцинациям. (Точнее говоря, пользователь ИИ нуждается в экспертной оценке бреда, выдаваемого ИИ). AI is a stochastic parrot.

[livelogic]

Непонятно, при чём тут ИИ.

Замечу, что экспертными оценками бреда, выдаваемого ЕИ, достаточно плотно заполнен интернет, и пользователь ЕИ точно также нуждается в экспертной оценке предоставляемых данных. Даже в среде профи хороши всякие code review, second opinion, concilium.

[mns2012]

Притом, что даже искусственным "умом" нужно пользоваться с умом.

[uri_ben_cephas]

Как можно использовать генерацию там, где нужно точное воспроизведение известного? Это же (само)убийство. С тем же успехом можно кости кидать. Генерация гарантировано даёт ложь, если строго говорить. Вообще, хотелось бы верить, что это вброс, но появление такого рода вещей, увы, неизбежно.

[mns2012]

Да, типа какой-нибудь сгенерированной инструкции по сборке гранаты :))

[mns2012]

Вроде бы не вброс. Вот ещё подобные случаи: https://www.washingtonpost.com/technology/2024/03/18/ai-mushroom-id-accuracy/

[sergecpp]

В Что-Где-Когда некогда был вопрос, почему издание одной энциклопедии затребовали у подписчиков обратно (Франция, вроде бы, не помню). Знатоки ответили верно -- там перепутали картинки грибов.