Эпидемия фальшивой науки.
Financial Times рассказывает, что сегодня в среде академических публикаций идет гонка вооружений между ИИ, детекторами лжи и брокерами авторских прав:
"Статья 1996 года стала легендарной в академических кругах. “Transgressing the Boundaries: Towards a Transformative Hermeneutics of Quantum Gravity” («Преодоление границ: к трансформационной герменевтике квантовой гравитации»), написанная математиком Alan Sokal, была опубликована в культурологическом журнале. В ней утверждается, что физическая реальность является социальной и языковой конструкцией.
Это была витиевато написанная имитация: насыщенная жаргоном, правдоподобно звучащая пародия, призванная потворствовать предвзятости ленивых рецензентов и обнажить недостатки академической деятельности. Фальшивая статья, нацеленная на восхищающихся собой интеллектуалов-постмодернистов, рассуждающих о научных вопросах, подтвердила подозрения Сокала, сейчас работающего в University College London, о том, что канон человеческого знания уязвим для проникновения мошенников.
Сегодня этот розыгрыш кажется комично странным по сравнению с мошенническим кризисом, поразившим научные журналы. Недавно издательство Wiley объявило, что закроет 19 журналов, некоторые из которых были связаны с крупномасштабным мошенничеством в исследованиях. По имеющимся данным, за последние два года оно отозвало более 11 000 статей. Wiley и другие издательства, такие как Springer Nature, борются с эпидемией фейков.
Но борьба должна вестись. Без должной экспертизы наука может понести репутационный удар. Учитывая, что впереди так много научных вызовов - изменение климата, ИИ, энергетическая безопасность, пандемии - такую потерю доверия человечество не может себе позволить.
Научные публикации на удивление прибыльны: по всему миру они приносят около $28 млрд в год. В то время как подписка на ведущие журналы стоит значительной суммы денег, публикации в них осуществляются при условии рецензирования за определенную плату. Эта система питается исследовательским принципом «публикуй или погибни»: ученые получают гранты, должности и продвижение по службе в зависимости от того, как часто они публикуются и как часто их цитируют.
Результатом является атмосфера лихорадочной конкуренции, в которой авторство является товаром, который теперь беззастенчиво рекламируется на открытом рынке. Nick Wise, инженер-исследователь из Кембриджского университета, аккумулирует рекламные объявления так называемых брокеров авторских прав и размещает их на X под ником @author_for_sale.
В интервью 2022 года Retraction Watch - веб-сайту, который отслеживает подозрительные документы (на предмет непреднамеренных ошибок, а также мошенничества), Уайз подробно описал, как брокеры связываются с недобросовестными учеными: «Это целая экономика, экосистема Facebook, WhatsApp, Telegram, продающих авторство статей, цитаты, главы книг, авторства патентов». Всё это загрязняют пул знаний.
Авторам, конечно, нужны статьи, на которые можно подписать своими именами. Именно здесь на помощь приходит «бумажная фабрика» - предприятие промышленного масштаба, которое часто использует ИИ для массового производства статей (многие такие фабрики базируются в Китае). Которые затем отправляются в несколько журналов в надежде, что некоторые из них проскользнут мимо перегруженных работой рецензентов.
Исследователи используют программное обеспечение для борьбы с мошенничеством, чтобы выявлять дефектные предложения, такие как «искаженные фразы», выдаваемые статьями, созданными ИИ, чтобы обмануть детекторы плагиата. ИИ становится «фальшивым сознанием»; так, рак молочной железы превращается в «грудную опасность». Другие тревожные сигналы включают в себя маловероятные сотрудничества авторов; нерелевантные списки ссылок; и группы статей, в которых авторы кровосмесительно цитируют друг друга. «Я предполагаю, что большая часть мошенничества остается незамеченной», - говорит Уайз.
Тем временем издательские компании открывают отделы по борьбе с мошенничеством и пытаются ловить преступников, подающих идентичные документы. Но это вечная борьба: брокеры формулируют свои объявления более скрытно; ИИ пишет более убедительные статьи.
Как правильно заметил Сокал в своей книге 2008 года "Beyond the Hoax" («По ту сторону мистификации»), сохранение целостности науки является экзистенциальным вопросом. «Ясное мышление в сочетании с уважением к доказательствам... имеют первостепенное значение для выживания человечества в XXI веке», - написал он. Это гонка вооружений, в которой должны победить научные сыщики."
Телеграм-канал "Интриги книги"
"Статья 1996 года стала легендарной в академических кругах. “Transgressing the Boundaries: Towards a Transformative Hermeneutics of Quantum Gravity” («Преодоление границ: к трансформационной герменевтике квантовой гравитации»), написанная математиком Alan Sokal, была опубликована в культурологическом журнале. В ней утверждается, что физическая реальность является социальной и языковой конструкцией.
Это была витиевато написанная имитация: насыщенная жаргоном, правдоподобно звучащая пародия, призванная потворствовать предвзятости ленивых рецензентов и обнажить недостатки академической деятельности. Фальшивая статья, нацеленная на восхищающихся собой интеллектуалов-постмодернистов, рассуждающих о научных вопросах, подтвердила подозрения Сокала, сейчас работающего в University College London, о том, что канон человеческого знания уязвим для проникновения мошенников.
Сегодня этот розыгрыш кажется комично странным по сравнению с мошенническим кризисом, поразившим научные журналы. Недавно издательство Wiley объявило, что закроет 19 журналов, некоторые из которых были связаны с крупномасштабным мошенничеством в исследованиях. По имеющимся данным, за последние два года оно отозвало более 11 000 статей. Wiley и другие издательства, такие как Springer Nature, борются с эпидемией фейков.
Но борьба должна вестись. Без должной экспертизы наука может понести репутационный удар. Учитывая, что впереди так много научных вызовов - изменение климата, ИИ, энергетическая безопасность, пандемии - такую потерю доверия человечество не может себе позволить.
Научные публикации на удивление прибыльны: по всему миру они приносят около $28 млрд в год. В то время как подписка на ведущие журналы стоит значительной суммы денег, публикации в них осуществляются при условии рецензирования за определенную плату. Эта система питается исследовательским принципом «публикуй или погибни»: ученые получают гранты, должности и продвижение по службе в зависимости от того, как часто они публикуются и как часто их цитируют.
Результатом является атмосфера лихорадочной конкуренции, в которой авторство является товаром, который теперь беззастенчиво рекламируется на открытом рынке. Nick Wise, инженер-исследователь из Кембриджского университета, аккумулирует рекламные объявления так называемых брокеров авторских прав и размещает их на X под ником @author_for_sale.
В интервью 2022 года Retraction Watch - веб-сайту, который отслеживает подозрительные документы (на предмет непреднамеренных ошибок, а также мошенничества), Уайз подробно описал, как брокеры связываются с недобросовестными учеными: «Это целая экономика, экосистема Facebook, WhatsApp, Telegram, продающих авторство статей, цитаты, главы книг, авторства патентов». Всё это загрязняют пул знаний.
Авторам, конечно, нужны статьи, на которые можно подписать своими именами. Именно здесь на помощь приходит «бумажная фабрика» - предприятие промышленного масштаба, которое часто использует ИИ для массового производства статей (многие такие фабрики базируются в Китае). Которые затем отправляются в несколько журналов в надежде, что некоторые из них проскользнут мимо перегруженных работой рецензентов.
Исследователи используют программное обеспечение для борьбы с мошенничеством, чтобы выявлять дефектные предложения, такие как «искаженные фразы», выдаваемые статьями, созданными ИИ, чтобы обмануть детекторы плагиата. ИИ становится «фальшивым сознанием»; так, рак молочной железы превращается в «грудную опасность». Другие тревожные сигналы включают в себя маловероятные сотрудничества авторов; нерелевантные списки ссылок; и группы статей, в которых авторы кровосмесительно цитируют друг друга. «Я предполагаю, что большая часть мошенничества остается незамеченной», - говорит Уайз.
Тем временем издательские компании открывают отделы по борьбе с мошенничеством и пытаются ловить преступников, подающих идентичные документы. Но это вечная борьба: брокеры формулируют свои объявления более скрытно; ИИ пишет более убедительные статьи.
Как правильно заметил Сокал в своей книге 2008 года "Beyond the Hoax" («По ту сторону мистификации»), сохранение целостности науки является экзистенциальным вопросом. «Ясное мышление в сочетании с уважением к доказательствам... имеют первостепенное значение для выживания человечества в XXI веке», - написал он. Это гонка вооружений, в которой должны победить научные сыщики."
Телеграм-канал "Интриги книги"