(Untitled)

[leolion_1]

Ну, что, вот и мне в руки как редактору попала первая статья, сгенерированная ИИ

Comments

[kraamis]

А что вы понимаете под подделкой данных?

Цифры проще самому нарисовать какие нужно. Микроскопию ИИ не подделает, там каждый пиксель на счету.

А так, пытался я заставить ИИ написать короткую статью по социологии. Пока идут общие слова - справилась не хуже человека. Как пошла конкретика, цифры, ссылки, сопоставление - тут лютый бред.

Соответственно к физике с химией ее лучше не пускать выше четвертого квартиля.

[leolion_1]

Микроскопию - пока нет, а вот спектры и вообще любые графические зависимости....

[kraamis]

Их проще руками нарисовать какие нужно.

Как один профессор из Германии рисовал XRD-спектры и спалился на том, что фоновый шум был одинаковый на всех спектрах за десять лет.

[leolion_1]

Не настолько уж проще. Про профессора с xrd не слышала.
ЯХШ, которого на этом выпалили, был из Германии, но работал в Белл лабс, и не за 10 лет там у него спектры были, а из двух или трёх статей за пару лет

[redflower99]

Цитата из чатика в телеге, пишет бывший однокурсник

"Вот все жалуются, что ИИ постоянно врет. Выше в цитате гендиректора гугла это было: система написала эссе, порекомендовав 5 книг, ни одной из которых не существует. У меня дочь на то же жаловалась. Пыталась использовать ИИ для поиска статей для литобзора - так система довольно быстро научилась ей угождать и подсовывала ссылки на очень подходящие по теме, но несуществующие статьи) очень правдоподобно врала, с кодами статей, ссылками и проч. Никто из разработчиков, очевидно, ничему такому ИИ не учил. "
Ниже в беседе тоже однокурсница сетует, что, делая какой-то экономический обзор, поручила ИИ поиск фирм для иллюстраций, и фирмы такие были найдены, но оказались настолько идеальны, что она не поверила, полезла проверять, и оказалось, что в природе их не существует.

Так что не исключено, что не начнут подделывать, а продолжат это делать...

[kraamis]

Ну и куда эта статья пойдет? В Вестник Урюпинского заборостроительного?

[ext_3776482]

будем дожидаться, когда ИИ будет засовывать фейковые статьи в официальные базы данных? А он ведь сможет...

[gor_chichnik]

А у вас не бывает за такое волчьего билета? У нас за неуказанный conflict of interest обмажут так, что потом может будешь продолжать научную деятельность, а может и нет.. (ну если специально обманул)

[leolion_1]

Конечно, бывает. Я же и выписала.

[vlad_v_af]

У индусов постоянно какая-нибудь лажа в статьях и без ИИ)

[leolion_1]

Лажу я видела и раньше, а вот полностью сгенерированную статью реальным автором - впервые.

[14op]

Во-во, если заменить иного индуса на ИИ, то может и польза какая выйдет и уж точно никто ничего не заметит.

[termometr]

Индийская автоматическая станция «Чандраян-3» совершила успешную посадку модуля «Викрам» на Южном полюсе естественного спутника Земли...
=====
Моди крут, а обнуленец - плут!

[n_p_n]

Ну знаете... подделать факты - это всё равно, что отредактировать физические законы ;)

[leolion_1]

Есть такие области, где такую подделку так уж легко не выявишь, пока не попытаешься повторить ее сам.

[ext_6314795]

Не знаю, как в химии, но в полевой биологии подделать факты- запросто!

[n_p_n]

я всё же исхожу из представления, что факты - это имя проявлений реальности. А вот подделать можно (вольно или невольно) данные наблюдений/измерений.

Если считать фактами сами материалы (документы) исследований, то мои рассуждения теряют смысл.

P.S. Также я часто задумываюсь: есть ли смысл объяснять свои туманные мысли, если их поняли неверно? Ну при условии, что речь не о суде или контракте ;)