Академический скандал: сотни тысяч научных статей оказались сгенерированы ИИ?

В исследовании, опубликованном в престижном журнале Science Advances, был разработан чрезвычайно сложный метод анализа языка. Исследователи выделили 454 характерных слова, которые обычно используются в больших языковых моделях (LLM), таких как ChatGPT.

К этим словам относятся «собранный», «охватывающий», «разрастающийся» и многие другие термины, которые необычно часто встречаются в тексте, сгенерированном ИИ.

Когда этот анализ был применён к базе данных PubMed, где ежегодно хранится около 1,5 миллионов научных статей, результаты оказались шокирующими. По оценкам, по меньшей мере 200 000 статей ежегодно содержат следы искусственного интеллекта, согласно обзору New York Times.

Эта реальность становится всё более очевидной, поскольку многие научные статьи содержат серьёзные ошибки, указывающие на ИИ. Специалист по информатике из Университета штата Аризона Суббарао Камбхампати поделился типичным случаем: статья в области медицинской визуализации, содержащая чёткий ответ от чат-бота.

«

«Извините, но у меня нет доступа к информации в режиме реального времени или данным о конкретных пациентах, потому что я — языковая модель искусственного интеллекта».

Более тонкие ошибки, такие как фраза «регенерировать ответ» (термин, специфичный для ChatGPT и обозначающий регенерацию ответов), встречались во многих исследованиях. Ещё более тревожно то, что некоторые статьи содержат полностью сфабрикованные ссылки или абсурдные изображения, сгенерированные ИИ.

Столкнувшись с этой ситуацией, исследовательское сообщество чётко разделилось на две группы. В то время как одни авторы пытаются скрыть использование ИИ, корректируя формулировки и удаляя слова, которые легко можно было бы списать на «написанные ИИ», другие небрежно или не беспокоятся о сокрытии своего происхождения.

Тенденция к сокрытию использования ИИ становится все более изощренной, что создает серьезные проблемы для поддержания прозрачности и качества научных исследований.

Группа исследователей выступила с мрачным предупреждением о потенциальных последствиях этого явления. По их оценке, если бесконтрольное использование ИИ в научных работах продолжится, это может оказать «беспрецедентное влияние на научную литературу в области биомедицинских исследований, даже превзойдя последствия пандемии COVID-19».

Соавтор исследования Дмитрий Кобак подчеркнул важность сохранения аутентичности в исследованиях: «Я считаю, что в такой важной работе, как написание исследовательского тезисов, нельзя позволять ИИ делать это за вас».