Искусственные изображения наноматериалов обманывают даже экспертов
Исследование, опубликованное в журнале Nature Nanotechnology, показало, что даже опытные учёные не могут отличить настоящие микроскопические изображения наноматериалов от сгенерированных искусственным интеллектом.
Учёные из пяти стран создали реалистичные поддельные изображения, обучив платформу getimg.ai на реальных данных микроскопии менее чем за час. Искусственные изображения точно воспроизводили шесть различных методов микроскопии, включая просвечивающую электронную микроскопию (ПЭМ) и атомно-силовую микроскопию (АСМ).
В анонимном опросе более 250 учёных-материаловедов участники правильно определили подлинность изображений лишь в 40–51% случаев для четырёх из шести пар изображений. «Эксперты были точны лишь в половине случаев», — отмечают авторы исследования.
Эта проблема угрожает научной целостности, поскольку подрывает доверие к рецензируемым публикациям в нанонауке. Для решения проблемы исследователи предлагают использовать подход MAIF (Minimal Arrangement of Instrument Files) — структуру хранения данных, где каждая рукопись содержит основную папку с подпапками для каждого изображения, а в подпапках хранятся исходные файлы приборов.
Вместо того чтобы рассматривать ИИ исключительно как угрозу, авторы призывают научное сообщество к прозрачному диалогу и разработке чётких стандартов и защитных мер.
Интересный факт: Современные генеративные ИИ-системы могут создавать не только изображения, но и полностью синтетические научные данные, что представляет новую проблему для научного сообщества в различных дисциплинах.
0 комментариев