В Пекине обсудили этичное использование ИИ в науке и выпустили новые рекомендации

Более ста исследователей собрались в Пекине в воскресенье, 7 декабря, чтобы обсудить, как инструменты искусственного интеллекта могут помогать, а не искажать научно-исследовательский и издательский процесс.

В рамках второй конференции «Ююаньтань» по целостности исследований был представлен обновлённый «Руководство по границам использования контента, созданного ИИ, в академических публикациях, версия 3.0».

В документе, в частности, указано, что на этапе обзора литературы исследователи могут использовать инструменты ИИ для сбора ссылок по ключевым терминам, их категоризации и обобщения выводов. Однако, поскольку ИИ может «выдумывать» или предоставлять устаревшие источники, учёные обязаны вручную проверять все цитаты и принимать окончательные решения. При использовании функций вроде «глубокого размышления» необходимо также проверять достоверность исходных баз данных и перепроверять рекомендуемые ссылки, чтобы избежать «галлюцинаций» ИИ.

Руководство содержит подробные рекомендации и для других этапов: сбора данных, статистического анализа, подготовки графиков, подачи рукописи, рецензирования и пост-публикационной деятельности.

На мероприятии, организованном Институтом научно-технической информации Китая, академик Китайской академии наук Тань Теню подчеркнул важность чёткого определения ответственности исследователей как пользователей ИИ и стандартизации раскрытия информации об использовании ИИ в научных статьях. Он также призвал расширить обучение ИИ в научном сообществе для повышения эффективности и ответственности его применения.

«Мы должны продвигать глобальное совместное управление, достичь международного консенсуса по нормам использования ИИ и технологиям управления, а также продвигать китайские стандарты», — заявил Тань Теню.

Недавний отчёт ведущего международного издателя Elsevier «Исследование будущего» показал, что китайские учёные являются самыми активными пользователями ИИ в исследованиях в мире: 69% сообщили о его применении, что выше среднемирового показателя в 58%. Около 66% китайских респондентов считают, что ИИ улучшит качество исследований.

«Китай всегда впереди, когда речь заходит о технологиях и инновациях... За последние 5–10 лет качество исследований значительно выросло, что является огромным достижением», — отметила старший вице-президент Elsevier Джемма Херш, добавив, что внедрение ИИ могло способствовать этому сдвигу.

Отчёт, основанный на опросе более 3200 исследователей из 113 стран, также указывает на сохраняющуюся неопределённость: только 22% респондентов в мире считают ИИ заслуживающим доверия, а 45% заявили, что им не хватает достаточных навыков работы с ИИ.

Доцент Школы коммуникаций Тяньцзиньского университета иностранных языков Гэн Пэн отметил, что выпуск руководства проясняет границы для академических публикаций, помогает исследователям использовать ИИ как научный инструмент и предоставляет чёткие ориентиры.

Работа Китая по продвижению ответственного использования ИИ становится международным примером. По словам Джеммы Херш, улучшение прозрачности и отслеживаемости — это общая потребность научного сообщества, в ответ на которую Elsevier развивает такие инструменты, как Scopus AI, ScienceDirect AI и готовящийся к запуску Leap Space.