ChatGPT в профессора и академики!
anton_lipovka wrote:
На пятые сутки сидения в карцере, индеец Зоркий глаз увидел, что у камеры отсутствует одна стена.
Думаю, на пятидесятые сутки сидения, они обнаружат, что и другие стенки так же отсутствуют...
В Гарварде увидели пёрышко на пене на вершине цунами, под названием лажа, но пока не видят всей цунами.
Статья:
https://misinforeview.hks.harvard.edu/article/gpt-fabricated-scientific-papers-on-google-scholar-key-features-spread-and-implications-for-preempting-evidence-manipulation/
Краткий перевод:
Научные статьи, сфабрикованные с помощью GPT в Google Scholar: основные характеристики, распространение и последствия для предотвращения манипуляций с доказательствами
Растёт количество научных работ - статей, сгенерированных Искусственным Интеллектом (ИИ). Причём находят их везде - опубликованными в академических рецензируемых журналах, архивах и репозиториях. Работы сгенерированные ИИ (в частности ChatGPT) очень хорошо имитируют научную работу. Одна из наиболее широко используемых научных поисковых систем Google Scholar не способна отделить подделки от реальных работ. Она легко находит и перечисляет эти «сомнительные» работы вместе с «авторитетными», «прошедшими контроль качества» исследованиями. Вытекающее из этого усиление потенциала для злонамеренного манипулирования доказательной базой, вызывает растущую обеспокоенность.
Во-первых, обилие сфабрикованных «исследований», просачивающихся во все области исследовательской инфраструктуры, грозит перегрузить систему научной коммуникации и поставить под угрозу целостность научных записей.
«Она у вас и так уже перегружена мусором» (мой комментарий)
Второй риск заключается в возросшей вероятности того, что убедительно выглядящий научный контент на самом деле был обманным путем создан с помощью инструментов ИИ, а также оптимизирован для извлечения общедоступными академическими поисковыми системами, в частности Google Scholar. Это может подорвать основу доверия к научным знаниям и создать серьезные социальные риски.
«Доверия к каким знаниям? По тёмной материи? По космолаже? По струнным теориям? По петлевым квантовым гравитациям? А может по бозону Хиггса?» (мой комментарий)
____________________
Что я могу на это сказать?...
Как устроена академическая «наука»?
А ведь всё уже много раз проходили, но опять на этом же самом месте, на те же грабли:
Вместо эпиграфа
Гамлет - Вот флейта. Сыграйте на ней что-нибудь.
Гильденстерн - Принц, я не умею.
Гамлет - Я вас прошу.
Гильденстерн - Уверяю вас, я не умею.
Гамлет - Я вас умоляю.
Гильденстерн - Я и держать её не умею, мой принц!
Гамлет - Это так же легко, как лгать; управляйте этими отверстиями при помощи пальцев, дышите в нее ртом, и она заговорит красноречивейшей музыкой. Видите- вот это лады.
Гильденстерн - Но я не могу извлечь из них никакой гармонии; я не владею этим искусством.
Гамлет - Вот видите, что за негодную вещь вы из меня делаете? На мне вы готовы играть; вам кажется, что мои лады вы знаете; вы хотели бы исторгнуть сердце моей тайны; вы хотели бы испытать от самой низкой моей ноты до самой вершины моего звука; вот в этом маленьком снаряде - много музыки, отличный голос; однако вы не можете сделать так, чтобы он заговорил. Черт возьми, или, по-вашему, на мне легче играть, чем на дудке?
Назовите меня каким угодно инструментом, - вы хоть и можете меня терзать, но играть на мне не можете.
Что имеем?
Имеем вертикаль власти, уходящую куда-то во мрак (не будем здесь рассматривать это звено, речь не о нём). Имеем чиновников, у которых в руках гос. деньги, но которые в науку не умеют, целей не видят, а методов достижения целей не знают. Но при этом они должны управлять наукой и отчитываться наверх о «повышении удоев», иначе все увидят, что король голый.
Что им делать? Спасительный аутсорсинг (простите мой французский). Чиновники (как обычно) берут с потолка ряд постулатов. Скажем таких: А) Редакторы «правильных» научных журналов умеют в науку и знают физику-математику. Б) Редакторы - идеальные, всегда делают свою работу идеально и правильно. Они никогда не ошибаются. В) Система рецензирования работает. Г) Окружающий мир - мир розовых пони и принцесс, в котором не существует ни денег, ни коммерческой заинтересованности, ни конфликта интересов. Все взялись за руки и счастливые водят хоровод вокруг ёлки, пряники падают с неба. Д) Система ранжирования журналов - правильная и сомнению не подлежит. Е) Продуктивность партисипанта (научного работника) пропорциональна количеству публикуемых им статей в «правильных» журналах из списка (список прилагается). Все остальные журналы - неправильные и при раздаче денег не учитываются. И т.д. Решение чиновников: Пусть разбираются редакторы журналов, а мы будем распределять деньги (может быть) пропорционально количеству опубликованных буковочек.
Спускаемся на уровень ниже.
Редактор. Он что - рыжий? Наукой он давно не занимается (if any), поскольку просто некогда. Самому разбираться в присылаемых рукописях - некогда, дел и так завались. Что делать? Ну конечно, вы правильно поняли - Спасительный аутсорсинг (простите мой французский). Редактор отсылает рукописи бесплатным рецензентам. Они же «учёные», значит - психи ненормальные и должны работать не за деньги а за интерес, благо живут они в стране розовых пони и (как я сказал) пряники им с неба падают.
Спускаемся ещё на уровень ниже.
Так называемый учёный. Ипотека не выплачена, детей в школе не учат, приходится самому их всему учить, зарплата грошовая, соседи всю ночь до 8 утра чего-то там праздновали и спать не дали, в результате голова раскалывается. На работе приходится писать явно мусорные статьи, поскольку на прорывные работы нужно время, а времени нет - его чиновники заняли всякой хренью типа отчётов, подачи на гранты, тьюторство, лекции, конференции, пропаганда науки, выбивание копейки из всяких местных организаций для оплаты вступительного взноса на конференцию, набор и оформление рукописи как того требует журнал, поиск денег для оплаты публикации в журнале и т.д. (см. эпиграф из Гамлета выше). К тому же за истину могут и попереть вон, поскольку если директор института, да и вообще весь научный коллектив всю жизнь за деньги искал, скажем, какую-нибудь «Тёмную Материю»(ТМ) (здесь ТМ означает торговая марка, а не то, что вы подумали), то сами понимаете что произойдёт с тем, кто попробует сказать/показать, что тёмной материи нет...
Ну вот, сидит этот «профессор», пишет очередную мусорную статью, чтобы в отчётах её указать (если в журнале соизволят принять), и тут к нему приходит любезное приглашение отрецензировать рукопись за бесплатно. Что такое рецензирование рукописи (если делать это хорошо)? Это пара - тройка недель жизни (если рукопись качественная).
Дальше понятно. Давайте я вам, уважаемый читатель, предложу сделать ремонт в моей квартире забесплатно. Всего-то пара-тройка недель вашей работы на благо науки. Ну что вам, жалко поработать? А я вам потом (может быть) спасибо скажу. Примерно такой расклад. Везут на том, кто везёт. Но, к сожалению, те кто везёт - ожидаемо закончились.
Всякое бывает при рецензировании. Зависит от рецензента. Мне однажды прислали рецензию на мою рукопись, размером в три коротких предложения, Рецензия была примерно такого содержания: (почти цитирую) «В работе обсуждаются результаты, которых нет в википедии, поэтому работу следует отклонить». Это, на секундочку, престижный европейский журнал EPJC, входящий в чиновничьи базы «правильных» журналов. И-таки мне отказали в публикации!
В результате что мы имеем:
1) Чиновниками была выстроена система, в рамках которой заниматься наукой не просто не выгодно, но даже опасно. Единственное чем там можно заниматься - это мимикрировать. Писать стандартные мусорные статьи, которые были бы понятны некоему рецензенту из ПТУ, не выходили бы за рамки мэйнстрима и внешне походили бы на то, что публикуется в конкретном выбранном чиновниками журнале.
2) Во многих академических журналах (разумеется, с целью улучшения, повышения и бла-бла-бла, а так же для облегчения оценки поступающих рукописей и уменьшения вероятности ошибок) был введён обязательный шаблон, налагаемый на формат присылаемого текста. Чтобы понять о чём речь, см., например, саму статью из Гарварда, цитированную выше. Такой шаблон крайне неудобен для написания научно-исследовательской статьи живым человеком, но зато крайне удобен для ИИ и позволяет идеально маскировать результат компиляции под живого человека.
В этих условиях чего можно ожидать от профессионального научного работника (напомню, профессионалом называется тот, кто зарабатывает своей профессией на жизнь)? Он вынужден делать то, что от него требуют чиновники-деньги-дающие.
Хотите лапшу развесистую? Пожалуйста! Чат-ГоПоТа? Не вопрос, мы и так тоже мимикрировать умеем.
ПыСы
Это бизнес, ничего личного.
Только что получил на почту приглашение:Dear colleagues,This is the first announcement to invite you to participate in the IX Scalar Field Dark Matter Workshop (https://sites.google.com/view/ix-sfdm-workshop). As in previous editions, the workshop’s main goal is to bring together researchers and students to discuss recent results on the Scalar Field Dark Matter model and related topics, to explore and generate new lines of interest for further research. We will have invited talks by national and international specialists. On this occasion, we have spaces for Plenary (40 min) and Short Talks (20 min) on the event topics. We encourage you to register your abstracts. We aim to foster collaboration among the participants. Please note that the languages used for the event are English and Spanish.
ТМ была закрыта в 2018, соответствующая статья опубликована в правильном журнале в 2022 году. Заканчивается 2024 год. ТМ продолжают искать.
Ну а ниже, естественно, указывают сумму регистрационного взноса, банковские реквизиты и т.д.
Раньше я пытался объяснить организаторам таких конференций, что ТМ не существует, ссылку присылал на статью, предлагал рассказать почему для ТМ во Вселенной нет места (пусть даже и за деньги). Думаю попыток десять сделал. Результат всегда предсказуем: игнор, либо вежливый ответ, что программа уже переполнена и сейчас меня никак не могут включить, "но вы пытайтесь в будущем".
https://anton-lipovka.livejournal.com/59627.html
«В работе обсуждаются результаты, которых нет в википедии, поэтому работу следует отклонить».
Click to view2) Во многих академических журналах (разумеется, с целью улучшения, повышения и бла-бла-бла, а так же для облегчения оценки поступающих рукописей и уменьшения вероятности ошибок) был введён обязательный шаблон, налагаемый на формат присылаемого текста. Чтобы понять о чём речь, см., например, саму статью из Гарварда, цитированную выше. Такой шаблон крайне неудобен для написания научно-исследовательской статьи живым человеком, но зато крайне удобен для ИИ и позволяет идеально маскировать результат компиляции под живого человека.
В эти дни один только Тюбик сидел дома и писал портреты. Каждой малышке хотелось иметь портрет, и они совершенно замучили его своими требованиями. Всем обязательно хотелось быть самыми красивыми. И напрасно Тюбик доказывал, что каждый красив по-своему и что даже маленькие глаза могут быть тоже красивыми. Нет! Все малышки требовали, чтобы глаза обязательно были большие, ресницы длинные, брови дугой, рот маленький. В конце концов Тюбик перестал спорить и рисовал так, как от него требовали. Это было значительно удобнее, так как не вызывало никаких лишних пререканий, и к тому же Тюбик заметил, что может провести рационализацию в портретном деле.
Поскольку всем требовалось одно и то же, Тюбик решил сделать так называемый трафарет. Взяв кусок плотной бумаги, он прорезал в ней пару больших глаз, длинные, изогнутые дугой брови, прямой, очень изящный носик, маленькие губки, подбородочек с ямочкой, по бокам парочку небольших, аккуратных ушей. Сверху вырезал пышную причёску, снизу - тонкую шейку и две ручки с длинными пальчиками. Изготовив такой трафарет, он приступил к заготовке шаблонов.
Что такое шаблон, сейчас каждому станет ясно. Приложив трафарет к куску бумаги, Тюбик мазал красной краской то место, где в трафарете были прорезаны губы. На бумаге сразу получался рисунок губ. После этого он прокрашивал телесной краской нос, уши, руки, потом тёмные или светлые волосы, карие или голубые глаза. Таким образом получались шаблоны.
Этих шаблонов Тюбик наделал несколько штук. Если у малышки были голубые глаза и светлые волосы, он брал шаблон с голубыми глазами и светлыми волосами, добавлял немножечко сходства, и портрет был готов. Если же у малышки были волосы и глаза тёмные, то у Тюбика и на этот случай имелся шаблон.
Таких шаблонных портретов Тюбик нарисовал множество. Это усовершенствование очень ускоряло работу. К тому же Тюбик сообразил, что по трафарету, изготовленному рукой опытного мастера, каждый коротышка может заготовлять шаблоны, и привлёк к этому делу Авоську. Авоська с успехом закрашивал по трафарету шаблоны нужными красками, и шаблоны получались ничем не хуже тех, которые были изготовлены рукой самого Тюбика. Такое разделение труда между Тюбиком и Авоськой ещё больше ускоряло работу, что имело огромный смысл, так как количество желающих заказать портрет не уменьшалось, а с каждым днём увеличивалось.
Авоська очень гордился своей новой должностью. Про Тюбика и про себя он говорил с гордостью: «Мы - художники». Но сам Тюбик не был доволен своей работой и называл её почему-то халтурой. Он говорил, что из всех портретов, которые он нарисовал в Зелёном городе, настоящими произведениями искусства могут считаться только портреты Снежинки и Синеглазки, остальные годятся лишь на то, чтобы покрывать ими горшки и кастрюли.
Этого мнения не разделяли, впрочем, обладательницы портретов. Всем нравилось, что они получились красивыми, а сходство, говорили они, - это дело десятое. На все можно смотреть по-разному.
Тюбик начал рисовать малышек по паттерну.
Николай Носов, «Приключения Незнайки», глава 24.
По петлевым квантовым гравитациям?
LQG давно уж кандидат в два на два даже в самом махровом «official science mainstream'e» насколько я в курсе...
String theory пока еще кое-как держится...
Статья:
https://misinforeview.hks.harvard.edu/article/gpt-fabricated-scientific-papers-on-google-scholar-key-features-spread-and-implications-for-preempting-evidence-manipulation/
Краткий перевод: Научные статьи, сфабрикованные с помощью GPT в Google Scholar: основные характеристики, распространение и последствия для предотвращения манипуляций с доказательствами
Растёт количество научных работ - статей, сгенерированных Искусственным Интеллектом (ИИ). Причём находят их везде - опубликованными в академических рецензируемых журналах, архивах и репозиториях. Работы сгенерированные ИИ (в частности ChatGPT) очень хорошо имитируют научную работу. Одна из наиболее широко используемых научных поисковых систем Google Scholar не способна отделить подделки от реальных работ. Она легко находит и перечисляет эти «сомнительные» работы вместе с «авторитетными», «прошедшими контроль качества» исследованиями. Вытекающее из этого усиление потенциала для злонамеренного манипулирования доказательной базой, вызывает растущую обеспокоенность. Во-первых, обилие сфабрикованных «исследований», просачивающихся во все области исследовательской инфраструктуры, грозит перегрузить систему научной коммуникации и поставить под угрозу целостность научных записей.
Второй риск заключается в возросшей вероятности того, что убедительно выглядящий научный контент на самом деле был обманным путем создан с помощью инструментов ИИ, а также оптимизирован для извлечения общедоступными академическими поисковыми системами, в частности Google Scholar. Это может подорвать основу доверия к научным знаниям и создать серьезные социальные риски.
Идея!
НУ, ЕСЛИ CHAT-GPT НАСТОЛЬКО ХОРОШО ПИШЕТ ЗА УЧЁНЫХ НАУЧНЫЕ СТАТЬИ (а люди, наоборот, из рук вон плохо), ТО, МОЖЕТ БЫТЬ, ИМЕЕТ СМЫСЛ ИЗБРАТЬ CHAT-GPT ЧЛЕН-КОРРЕСПОНДЕНТОМ ОСНОВНЫХ АКАДЕМИЙ С ПРИСВОЕНИЕМ GPT-CHAT'У СООТВЕТСТВУЮЩИХ НАУЧНЫХ ЗВАНИЙ И РЕГАЛИЙ?
Дополнение:
Предлагаю принять GPTChat в академики!
anton_lipovka
21 сентября 2024, 22:07:12
У академиков тоже есть сыновья. Их что - на улицу???
Розжигаете, батенька! Экстремизм, однако.
Поддержать автора звонкой монетой.
Сбер: 2202 2080 9165 1233