Исследование предупреждает: искусственный интеллект может «затопить» литературу синтетическими научными работами

ИИ позволяет массово производить практически идентичные научные статьи, которые ускользают от проверки на плагиат, вызывая опасения по поводу всплеска низкокачественных академических публикаций.

В предварительной публикации на Nature, исследователи раскрыли, что 112 журналов опубликовали более 400 дубликатов статей за последние 4,5 года.

Эти подражательные исследования, основанные на Национальном обследовании здоровья и питания США (NHANES), использовали те же данные для публикации почти идентичных результатов.

«Если не обратить на это внимание, этот подход, основанный на ИИ, может быть применен ко всевозможным открытым базам данных, генерируя гораздо больше статей, чем кто-либо может представить», — говорит Чаба Сабо, фармаколог в Университете Фрибурга в Швейцарии.

«Это может открыть ящик Пандоры [и] литература может быть залита синтетическими статьями», — добавил Сабо, как сообщает Nature.

Исследователи продемонстрировали, насколько легко злоупотребить AI: они попросили ChatGPT и Gemini переписать три избыточных исследования NHANES. «Мы были шокированы, что это сработало сразу», — говорит соавтор Мэтт Спик из Университета Суррея. Рукописи, написанные AI, обошли детекторы плагиата, используемые издателями.

«Этого не должно происходить, и это не способствует здоровью научной литературы», — добавляет Спик.

Редакторы обеспокоены тем, что компании, которые продают фальшивые статьи, также известные как «фабрики статей», могут использовать эту лазейку. «Это совершенно новые вызовы для редакторов и издателей», — говорит Игорь Рудан из Эдинбургского университета.

Издатели начали внедрять новые меры для решения этой проблемы. Frontiers отметили 32% определенных статей, указывая, что эти исследования были опубликованы до вступления в силу их новых политик в области целостности. Springer Nature, журналы которого содержали 37% статей, обещали провести расследования.

«Мы очень серьезно относимся к нашей ответственности за поддержание достоверности научного записи», — говорит Ричард Вайт, редакционный директор Scientific Reports.

«Искусственный интеллект, вызывающий избыточность, в общем, представляет собой серьезную и постоянную проблему для издателей,» говорит Елена Викарио, руководитель отдела исследовательской честности в Frontiers.