ИИ выявил более 250 000 подозрительных статей по онкологии, связанных с «фабриками статей»

ИИ выявил более 250 000 подозрительных статей по онкологии. Credit: Shutterstock

Новая система машинного обучения выявила более 250 000 научных статей по онкологии, которые могут быть связаны с так называемыми «фабриками статей» (paper mills).

Исследование, опубликованное в журнале The BMJ, охватило 2,6 миллиона статей по онкологии, выпущенных с 1999 по 2024 год. Работу возглавил профессор Адриан Барнетт из Технологического университета Квинсленда (QUT) совместно с международной группой ученых.

Исследователи обнаружили, что более 250 000 статей содержат паттерны написания, схожие с теми, что встречаются в уже отозванных работах, заподозренных в фальсификации.

«Фабрики статей — это компании, которые продают поддельные или некачественные научные исследования. Они производят "исследования" в промышленных масштабах, и наши результаты показывают, что проблема в онкологии гораздо масштабнее, чем многие осознавали», — заявил профессор Барнетт.

Для поиска таких паттернов Барнетт и его коллеги обучили языковую модель BERT. Система была разработана для выявления тонких текстовых «отпечатков», которые регулярно встречаются в продукции известных фабрик статей. При проверке на подтвержденных примерах модель правильно выявляла подозрительные статьи в 91% случаев.

«По сути, мы создали научный спам-фильтр. Как ваша электронная почта может отслеживать нежелательные сообщения, так и наш инструмент помечает статьи, соответствующие стилю и структуре отозванных фальшивых работ», — пояснил Барнетт.

Масштабный анализ выявил несколько ключевых тенденций: количество подозрительных статей резко возросло за последние два десятилетия — с примерно 1% в начале 2000-х до пика более 16% в 2022 году. Проблема затрагивает тысячи журналов крупных издательств, включая издания с высокой репутацией. Особенно много подозрительных работ в таких областях, как молекулярная биология рака и ранние лабораторные исследования. Высокий процент помеченных статей также наблюдался в исследованиях рака желудка, печени, костей и легких.

Три научных журнала уже тестируют эту систему в рамках своего редакционного процесса. Исследователи планируют адаптировать инструмент для других научных областей. Однако команда подчеркивает, что статьи, выявленные системой, не следует автоматически считать мошенническими — каждый случай требует проверки экспертами.

«Исследования рака влияют на клинические испытания, разработку лекарств и уход за пациентами. Если сфабрикованные исследования попадают в доказательную базу, они могут ввести в заблуждение настоящих ученых и в конечном итоге замедлить прогресс для пациентов. Вот почему крайне важно опередить эту проблему», — резюмировал профессор Барнетт.