На пятые сутки сидения в карцере, индеец Зоркий глаз увидел, что у камеры отсутствует одна стена.
Думаю, на пятидесятые сутки сидения, они обнаружат, что и другие стенки так же отсутствуют...
В Гарварде увидели пёрышко на пене на вершине цунами, под названием лажа, но пока не видят всей цунами.
Статья:
https://misinforeview.hks.harvard.edu/article/gpt-fabricated-scientific-papers-on-google-scholar-key-features-spread-and-implications-for-preempting-evidence-manipulation/
Краткий перевод:
Научные статьи, сфабрикованные с помощью GPT в Google Scholar: основные характеристики, распространение и последствия для предотвращения манипуляций с доказательствами
Растёт количество научных работ - статей, сгенерированных Искусственным Интеллектом (ИИ). Причём находят их везде - опубликованными в академических рецензируемых журналах, архивах и репозиториях. Работы сгенерированные ИИ (в частности ChatGPT) очень хорошо имитируют научную работу. Одна из наиболее широко используемых научных поисковых систем Google Scholar не способна отделить подделки от реальных работ. Она легко находит и перечисляет эти «сомнительные» работы вместе с «авторитетными», «прошедшими контроль качества» исследованиями. Вытекающее из этого усиление потенциала для злонамеренного манипулирования доказательной базой, вызывает растущую обеспокоенность.
Во-первых, обилие сфабрикованных «исследований», просачивающихся во все области исследовательской инфраструктуры, грозит перегрузить систему научной коммуникации и поставить под угрозу целостность научных записей.
«Она у вас и так уже перегружена мусором» (мой комментарий)
Второй риск заключается в возросшей вероятности того, что убедительно выглядящий научный контент на самом деле был обманным путем создан с помощью инструментов ИИ, а также оптимизирован для извлечения общедоступными академическими поисковыми системами, в частности Google Scholar. Это может подорвать основу доверия к научным знаниям и создать серьезные социальные риски.
«Доверия к каким знаниям? По тёмной материи? По космолаже? По струнным теориям? По петлевым квантовым гравитациям? А может по бозону Хиггса?» (мой комментарий)
____________________
Что я могу на это сказать?...
Как устроена академическая «наука»?
А ведь всё уже много раз проходили, но опять на этом же самом месте, на те же грабли:
Вместо эпиграфа
Гамлет - Вот флейта. Сыграйте на ней что-нибудь.
Гильденстерн - Принц, я не умею.
Гамлет - Я вас прошу.
Гильденстерн - Уверяю вас, я не умею.
Гамлет - Я вас умоляю.
Гильденстерн - Я и держать её не умею, мой принц!
Гамлет - Это так же легко, как лгать; управляйте этими отверстиями при помощи пальцев, дышите в нее ртом, и она заговорит красноречивейшей музыкой. Видите- вот это лады.
Гильденстерн - Но я не могу извлечь из них никакой гармонии; я не владею этим искусством.
Гамлет - Вот видите, что за негодную вещь вы из меня делаете? На мне вы готовы играть; вам кажется, что мои лады вы знаете; вы хотели бы исторгнуть сердце моей тайны; вы хотели бы испытать от самой низкой моей ноты до самой вершины моего звука; вот в этом маленьком снаряде - много музыки, отличный голос; однако вы не можете сделать так, чтобы он заговорил. Черт возьми, или, по-вашему, на мне легче играть, чем на дудке?
Назовите меня каким угодно инструментом, - вы хоть и можете меня терзать, но играть на мне не можете.
Что имеем?
Имеем вертикаль власти, уходящую куда-то во мрак (не будем здесь рассматривать это звено, речь не о нём). Имеем чиновников, у которых в руках гос. деньги, но которые в науку не умеют, целей не видят, а методов достижения целей не знают. Но при этом они должны управлять наукой и отчитываться наверх о «повышении удоев», иначе все увидят, что король голый.
Что им делать? Спасительный аутсорсинг (простите мой французский). Чиновники (как обычно) берут с потолка ряд постулатов. Скажем таких: А) Редакторы «правильных» научных журналов умеют в науку и знают физику-математику. Б) Редакторы - идеальные, всегда делают свою работу идеально и правильно. Они никогда не ошибаются. В) Система рецензирования работает. Г) Окружающий мир - мир розовых пони и принцесс, в котором не существует ни денег, ни коммерческой заинтересованности, ни конфликта интересов. Все взялись за руки и счастливые водят хоровод вокруг ёлки, пряники падают с неба. Д) Система ранжирования журналов - правильная и сомнению не подлежит. Е) Продуктивность партисипанта (научного работника) пропорциональна количеству публикуемых им статей в «правильных» журналах из списка (список прилагается). Все остальные журналы - неправильные и при раздаче денег не учитываются. И т.д. Решение чиновников: Пусть разбираются редакторы журналов, а мы будем распределять деньги (может быть) пропорционально количеству опубликованных буковочек.
Спускаемся на уровень ниже.
Редактор. Он что - рыжий? Наукой он давно не занимается (if any), поскольку просто некогда. Самому разбираться в присылаемых рукописях - некогда, дел и так завались. Что делать? Ну конечно, вы правильно поняли - Спасительный аутсорсинг (простите мой французский). Редактор отсылает рукописи бесплатным рецензентам. Они же «учёные», значит - психи ненормальные и должны работать не за деньги а за интерес, благо живут они в стране розовых пони и (как я сказал) пряники им с неба падают.
Спускаемся ещё на уровень ниже.
Так называемый учёный. Ипотека не выплачена, детей в школе не учат, приходится самому их всему учить, зарплата грошовая, соседи всю ночь до 8 утра чего-то там праздновали и спать не дали, в результате голова раскалывается. На работе приходится писать явно мусорные статьи, поскольку на прорывные работы нужно время, а времени нет - его чиновники заняли всякой хренью типа отчётов, подачи на гранты, тьюторство, лекции, конференции, пропаганда науки, выбивание копейки из всяких местных организаций для оплаты вступительного взноса на конференцию, набор и оформление рукописи как того требует журнал, поиск денег для оплаты публикации в журнале и т.д. (см. эпиграф из Гамлета выше). К тому же за истину могут и попереть вон, поскольку если директор института, да и вообще весь научный коллектив всю жизнь за деньги искал, скажем, какую-нибудь «Тёмную Материю»(ТМ) (здесь ТМ означает торговая марка, а не то, что вы подумали), то сами понимаете что произойдёт с тем, кто попробует сказать/показать, что тёмной материи нет...
Ну вот, сидит этот «профессор», пишет очередную мусорную статью, чтобы в отчётах её указать (если в журнале соизволят принять), и тут к нему приходит любезное приглашение отрецензировать рукопись за бесплатно. Что такое рецензирование рукописи (если делать это хорошо)? Это пара - тройка недель жизни (если рукопись качественная).
Дальше понятно. Давайте я вам, уважаемый читатель, предложу сделать ремонт в моей квартире забесплатно. Всего-то пара-тройка недель вашей работы на благо науки. Ну что вам, жалко поработать? А я вам потом (может быть) спасибо скажу. Примерно такой расклад. Везут на том, кто везёт. Но, к сожалению, те кто везёт - ожидаемо закончились.
Всякое бывает при рецензировании. Зависит от рецензента. Мне однажды прислали рецензию на мою рукопись, размером в три коротких предложения, Рецензия была примерно такого содержания: (почти цитирую) «В работе обсуждаются результаты, которых нет в википедии, поэтому работу следует отклонить». Это, на секундочку, престижный европейский журнал EPJC, входящий в чиновничьи базы «правильных» журналов. И-таки мне отказали в публикации!
В результате что мы имеем:
1) Чиновниками была выстроена система, в рамках которой заниматься наукой не просто не выгодно, но даже опасно. Единственное чем там можно заниматься - это мимикрировать. Писать стандартные мусорные статьи, которые были бы понятны некоему рецензенту из ПТУ, не выходили бы за рамки мэйнстрима и внешне походили бы на то, что публикуется в конкретном выбранном чиновниками журнале.
2) Во многих академических журналах (разумеется, с целью улучшения, повышения и бла-бла-бла, а так же для облегчения оценки поступающих рукописей и уменьшения вероятности ошибок) был введён обязательный шаблон, налагаемый на формат присылаемого текста. Чтобы понять о чём речь, см., например, саму статью из Гарварда, цитированную выше. Такой шаблон крайне неудобен для написания научно-исследовательской статьи живым человеком, но зато крайне удобен для ИИ и позволяет идеально маскировать результат компиляции под живого человека.
В этих условиях чего можно ожидать от профессионального научного работника (напомню, профессионалом называется тот, кто зарабатывает своей профессией на жизнь)? Он вынужден делать то, что от него требуют чиновники-деньги-дающие.
Хотите лапшу развесистую? Пожалуйста! Чат-ГоПоТа? Не вопрос, мы и так тоже мимикрировать умеем.
ПыСы
Это бизнес, ничего личного.
Только что получил на почту приглашение:
Dear colleagues,
This is the first announcement to invite you to participate in the IX Scalar Field Dark Matter Workshop (https://sites.google.com/view/ix-sfdm-workshop). As in previous editions, the workshop’s main goal is to bring together researchers and students to discuss recent results on the Scalar Field Dark Matter model and related topics, to explore and generate new lines of interest for further research. We will have invited talks by national and international specialists. On this occasion, we have spaces for Plenary (40 min) and Short Talks (20 min) on the event topics. We encourage you to register your abstracts. We aim to foster collaboration among the participants. Please note that the languages used for the event are English and Spanish.
ТМ была закрыта в 2018, соответствующая статья опубликована в правильном журнале в 2022 году. Заканчивается 2024 год. ТМ продолжают искать.
Ну а ниже, естественно, указывают сумму регистрационного взноса, банковские реквизиты и т.д.
Раньше я пытался объяснить организаторам таких конференций, что ТМ не существует, ссылку присылал на статью, предлагал рассказать почему для ТМ во Вселенной нет места (пусть даже и за деньги). Думаю попыток десять сделал. Результат всегда предсказуем: игнор, либо вежливый ответ, что программа уже переполнена и сейчас меня никак не могут включить, "но вы пытайтесь в будущем".
В Гарварде увидели пёрышко на пене на вершине цунами, под названием лажа, но пока не видят всей цунами.
Статья:
https://misinforeview.hks.harvard.edu/article/gpt-fabricated-scientific-papers-on-google-scholar-key-features-spread-and-implications-for-preempting-evidence-manipulation/
Краткий перевод:
Научные статьи, сфабрикованные с помощью GPT в Google Scholar: основные характеристики, распространение и последствия для предотвращения манипуляций с доказательствами
Растёт количество научных работ - статей, сгенерированных Искусственным Интеллектом (ИИ). Причём находят их везде - опубликованными в академических рецензируемых журналах, архивах и репозиториях. Работы сгенерированные ИИ (в частности ChatGPT) очень хорошо имитируют научную работу. Одна из наиболее широко используемых научных поисковых систем Google Scholar не способна отделить подделки от реальных работ. Она легко находит и перечисляет эти «сомнительные» работы вместе с «авторитетными», «прошедшими контроль качества» исследованиями. Вытекающее из этого усиление потенциала для злонамеренного манипулирования доказательной базой, вызывает растущую обеспокоенность.
Во-первых, обилие сфабрикованных «исследований», просачивающихся во все области исследовательской инфраструктуры, грозит перегрузить систему научной коммуникации и поставить под угрозу целостность научных записей.
«Она у вас и так уже перегружена мусором» (мой комментарий)
Второй риск заключается в возросшей вероятности того, что убедительно выглядящий научный контент на самом деле был обманным путем создан с помощью инструментов ИИ, а также оптимизирован для извлечения общедоступными академическими поисковыми системами, в частности Google Scholar. Это может подорвать основу доверия к научным знаниям и создать серьезные социальные риски.
«Доверия к каким знаниям? По тёмной материи? По космолаже? По струнным теориям? По петлевым квантовым гравитациям? А может по бозону Хиггса?» (мой комментарий)
____________________
Что я могу на это сказать?...
Как устроена академическая «наука»?
А ведь всё уже много раз проходили, но опять на этом же самом месте, на те же грабли:
Вместо эпиграфа
Гамлет - Вот флейта. Сыграйте на ней что-нибудь.
Гильденстерн - Принц, я не умею.
Гамлет - Я вас прошу.
Гильденстерн - Уверяю вас, я не умею.
Гамлет - Я вас умоляю.
Гильденстерн - Я и держать её не умею, мой принц!
Гамлет - Это так же легко, как лгать; управляйте этими отверстиями при помощи пальцев, дышите в нее ртом, и она заговорит красноречивейшей музыкой. Видите- вот это лады.
Гильденстерн - Но я не могу извлечь из них никакой гармонии; я не владею этим искусством.
Гамлет - Вот видите, что за негодную вещь вы из меня делаете? На мне вы готовы играть; вам кажется, что мои лады вы знаете; вы хотели бы исторгнуть сердце моей тайны; вы хотели бы испытать от самой низкой моей ноты до самой вершины моего звука; вот в этом маленьком снаряде - много музыки, отличный голос; однако вы не можете сделать так, чтобы он заговорил. Черт возьми, или, по-вашему, на мне легче играть, чем на дудке?
Назовите меня каким угодно инструментом, - вы хоть и можете меня терзать, но играть на мне не можете.
Что имеем?
Имеем вертикаль власти, уходящую куда-то во мрак (не будем здесь рассматривать это звено, речь не о нём). Имеем чиновников, у которых в руках гос. деньги, но которые в науку не умеют, целей не видят, а методов достижения целей не знают. Но при этом они должны управлять наукой и отчитываться наверх о «повышении удоев», иначе все увидят, что король голый.
Что им делать? Спасительный аутсорсинг (простите мой французский). Чиновники (как обычно) берут с потолка ряд постулатов. Скажем таких: А) Редакторы «правильных» научных журналов умеют в науку и знают физику-математику. Б) Редакторы - идеальные, всегда делают свою работу идеально и правильно. Они никогда не ошибаются. В) Система рецензирования работает. Г) Окружающий мир - мир розовых пони и принцесс, в котором не существует ни денег, ни коммерческой заинтересованности, ни конфликта интересов. Все взялись за руки и счастливые водят хоровод вокруг ёлки, пряники падают с неба. Д) Система ранжирования журналов - правильная и сомнению не подлежит. Е) Продуктивность партисипанта (научного работника) пропорциональна количеству публикуемых им статей в «правильных» журналах из списка (список прилагается). Все остальные журналы - неправильные и при раздаче денег не учитываются. И т.д. Решение чиновников: Пусть разбираются редакторы журналов, а мы будем распределять деньги (может быть) пропорционально количеству опубликованных буковочек.
Спускаемся на уровень ниже.
Редактор. Он что - рыжий? Наукой он давно не занимается (if any), поскольку просто некогда. Самому разбираться в присылаемых рукописях - некогда, дел и так завались. Что делать? Ну конечно, вы правильно поняли - Спасительный аутсорсинг (простите мой французский). Редактор отсылает рукописи бесплатным рецензентам. Они же «учёные», значит - психи ненормальные и должны работать не за деньги а за интерес, благо живут они в стране розовых пони и (как я сказал) пряники им с неба падают.
Спускаемся ещё на уровень ниже.
Так называемый учёный. Ипотека не выплачена, детей в школе не учат, приходится самому их всему учить, зарплата грошовая, соседи всю ночь до 8 утра чего-то там праздновали и спать не дали, в результате голова раскалывается. На работе приходится писать явно мусорные статьи, поскольку на прорывные работы нужно время, а времени нет - его чиновники заняли всякой хренью типа отчётов, подачи на гранты, тьюторство, лекции, конференции, пропаганда науки, выбивание копейки из всяких местных организаций для оплаты вступительного взноса на конференцию, набор и оформление рукописи как того требует журнал, поиск денег для оплаты публикации в журнале и т.д. (см. эпиграф из Гамлета выше). К тому же за истину могут и попереть вон, поскольку если директор института, да и вообще весь научный коллектив всю жизнь за деньги искал, скажем, какую-нибудь «Тёмную Материю»(ТМ) (здесь ТМ означает торговая марка, а не то, что вы подумали), то сами понимаете что произойдёт с тем, кто попробует сказать/показать, что тёмной материи нет...
Ну вот, сидит этот «профессор», пишет очередную мусорную статью, чтобы в отчётах её указать (если в журнале соизволят принять), и тут к нему приходит любезное приглашение отрецензировать рукопись за бесплатно. Что такое рецензирование рукописи (если делать это хорошо)? Это пара - тройка недель жизни (если рукопись качественная).
Дальше понятно. Давайте я вам, уважаемый читатель, предложу сделать ремонт в моей квартире забесплатно. Всего-то пара-тройка недель вашей работы на благо науки. Ну что вам, жалко поработать? А я вам потом (может быть) спасибо скажу. Примерно такой расклад. Везут на том, кто везёт. Но, к сожалению, те кто везёт - ожидаемо закончились.
Всякое бывает при рецензировании. Зависит от рецензента. Мне однажды прислали рецензию на мою рукопись, размером в три коротких предложения, Рецензия была примерно такого содержания: (почти цитирую) «В работе обсуждаются результаты, которых нет в википедии, поэтому работу следует отклонить». Это, на секундочку, престижный европейский журнал EPJC, входящий в чиновничьи базы «правильных» журналов. И-таки мне отказали в публикации!
В результате что мы имеем:
1) Чиновниками была выстроена система, в рамках которой заниматься наукой не просто не выгодно, но даже опасно. Единственное чем там можно заниматься - это мимикрировать. Писать стандартные мусорные статьи, которые были бы понятны некоему рецензенту из ПТУ, не выходили бы за рамки мэйнстрима и внешне походили бы на то, что публикуется в конкретном выбранном чиновниками журнале.
2) Во многих академических журналах (разумеется, с целью улучшения, повышения и бла-бла-бла, а так же для облегчения оценки поступающих рукописей и уменьшения вероятности ошибок) был введён обязательный шаблон, налагаемый на формат присылаемого текста. Чтобы понять о чём речь, см., например, саму статью из Гарварда, цитированную выше. Такой шаблон крайне неудобен для написания научно-исследовательской статьи живым человеком, но зато крайне удобен для ИИ и позволяет идеально маскировать результат компиляции под живого человека.
В этих условиях чего можно ожидать от профессионального научного работника (напомню, профессионалом называется тот, кто зарабатывает своей профессией на жизнь)? Он вынужден делать то, что от него требуют чиновники-деньги-дающие.
Хотите лапшу развесистую? Пожалуйста! Чат-ГоПоТа? Не вопрос, мы и так тоже мимикрировать умеем.
ПыСы
Это бизнес, ничего личного.
Только что получил на почту приглашение:
Dear colleagues,
This is the first announcement to invite you to participate in the IX Scalar Field Dark Matter Workshop (https://sites.google.com/view/ix-sfdm-workshop). As in previous editions, the workshop’s main goal is to bring together researchers and students to discuss recent results on the Scalar Field Dark Matter model and related topics, to explore and generate new lines of interest for further research. We will have invited talks by national and international specialists. On this occasion, we have spaces for Plenary (40 min) and Short Talks (20 min) on the event topics. We encourage you to register your abstracts. We aim to foster collaboration among the participants. Please note that the languages used for the event are English and Spanish.
ТМ была закрыта в 2018, соответствующая статья опубликована в правильном журнале в 2022 году. Заканчивается 2024 год. ТМ продолжают искать.
Ну а ниже, естественно, указывают сумму регистрационного взноса, банковские реквизиты и т.д.
Раньше я пытался объяснить организаторам таких конференций, что ТМ не существует, ссылку присылал на статью, предлагал рассказать почему для ТМ во Вселенной нет места (пусть даже и за деньги). Думаю попыток десять сделал. Результат всегда предсказуем: игнор, либо вежливый ответ, что программа уже переполнена и сейчас меня никак не могут включить, "но вы пытайтесь в будущем".