(Untitled)

Aug 22, 2023 17:18

Ну, что, вот и мне в руки как редактору попала первая статья, сгенерированная ИИ ( Read more... )

эволюция, другая академия, real life, очень красная карточка

Leave a comment

Comments 49

vanxant August 22 2023, 16:56:36 UTC

В смысле, начнут?

В физике довольно давно используется ИИ для поиска интересных данных в общем потоке, потому как тот же БАК генерирует настолько лютые петабайты, что их даже по интернету не перешлёшь, как минимум несколько лет назад возили в Москву коробки жёстких дисков самолётами, шаманить в датацентрах Яндекса.

Там, конечно, ИИ построен не на дегенеративном трансформере как ChatGPT, но тем не менее.

Меня это всегда напрягало по двум причинам:

1. Имея поток случайных величин и пытаясь его отфильтровать так, чтобы увидеть события, выглядящие как распределение с нужными параметрами - ну, это очень скользко. Надёргать точек под нужное распределение это задачка для студента второго курса. Насколько тут корректно поведёт себя ИИ, представляющий собой чёрный ящик даже для своих создателей?

2. И наоборот, если ИИ натаскан на что-то ожидаемое, он вполне может проглядеть что-то совсем неожиданное. Это и с людьми случается, чего уж там.

Reply

leolion_1 August 22 2023, 17:07:07 UTC
В смысле - начнут не искать, а подделывать.

Reply

vanxant August 22 2023, 17:33:11 UTC

Для больших чисел разница отсутствует.

Если у вас в эксперименте 100 отсчётов, то да, для нужного графика скорее всего придётся подделывать результаты.

Если у вас 100 триллионов отсчётов в час, то там заведомо есть всё что угодно, нужно только творчески найти.

Reply

leolion_1 August 22 2023, 17:35:13 UTC
В нашей области настолько больших чисел не бывает. Я не имею в виду ситуацию, при которой из звезд на небосклоне можно сложить фигуру льва (несмотря на то, что она больше всего похожа на крысу).

Reply


xerf August 22 2023, 17:04:15 UTC
Тексты, написанные искусственным интеллектом таковой же интеллект должен читать и оценивать. Тогда все будет логично.

Reply

termometr August 23 2023, 06:23:44 UTC
прошло 20 лет, 2043 год. Люди стараются писать в ИИ-стиле. ИИ-редактор строго следит, чтобы в научный журнал не попала человеческая статья.

Reply


mithrilian August 22 2023, 17:44:23 UTC
Если на место редактора взять не за компетентность а приверженность нужной идеологии, то и проблемы нет.

Reply


xyecoc_cocka August 22 2023, 19:02:27 UTC
ИИ это зло ещё то!

Reply


rempi August 22 2023, 20:25:49 UTC

Типичная индийская статья это двадцать страниц обзора плюс пара страниц о том, что же они собственно сделали и зачем это нужно - т.е. ChatGPT за них 90% работы делает.

Reply

leolion_1 August 22 2023, 20:35:32 UTC
В данном случае это была обзорная статья, то есть, чатжпт и его смежники сделали за них всю работу.

Reply

rempi August 23 2023, 05:44:35 UTC

Ничего себе, молодцы какие.

Я несколько лет назад рецензировал статью из Саудовской Аравии, тоже индусы писали. Вроде все хорошо написано, но почему то мне пришла в голову шальная мысль проверить погрешности. Оказалось, что они все ровно 15% - а работа была по механизму окисления в ударной трубке, в ней правильно оцененные погрешности констант скоростей важнее чем сами константы.

Reply


Leave a comment

Up