用AI打败AI:我们用这两款利器阻挡学术造假

学术   2024-10-29 08:30   上海  

科研诚信是维系学术公信力的基石。一旦某本书籍的封面上或者一篇期刊文章的顶部印有出版机构的标志,就意味着这份研究成果已经经过仔细审核,并且达到了科研界所期望的诚信标准。


然而,遗憾的是,今天的学术出版界还需防范蓄意伪造的虚假研究。随着造假技术不断迭代,施普林格·自然(Springer Nature)必须持续开发更有效的工具来应对这一挑战。施普林格·自然科研诚信总监 Chris Graf 指出:“出版行业正面对来自‘论文工厂’和‘不良行为者’的恶意威胁……我们坚决不能让这类内容通过我们的系统。”


为了兑现对科研界乃至整个社会的承诺,我们在科研诚信方面不仅引入了经验丰富的专业团队——施普林格·自然科研诚信小组(SN RIG),还投入开发了一系列由人工智能(AI)驱动的工具,帮助编辑和审稿人识别并筛除虚假、误导性或被操纵的研究内容。其中的两大关键工具—— Geppetto和SnappShot,分别用于检测AI生成的虚假文本和图像篡改。


扫码了解Springer Nature的科研诚信实践以及我们科研诚信小组的工作

Geppetto:打击AI生成稿件

生成式预训练转换模型(GPT)大幅降低了“论文工厂”批量产出AI生成稿件的门槛。对此,施普林格·自然开发了 Geppetto 工具,用于专门识别并处理这些稿件,许多情况下甚至能在它们进入编辑流程之前就将其筛除。


自2023年11月启动以来,Geppetto 已被施普林格·自然科研诚信小组应用于预筛大部分的图书和期刊投稿。通过在早期发现潜在问题稿件,Geppetto 不仅守护了学术记录,减少了后期撤稿的情况,也大大减轻了编辑人工检查的工作负担。

SnappShot:快速揭露图像篡改

在GPT生成文本之前,诸如Photoshop这类图像编辑软件已经让图像篡改变得易如反掌。近年来,因图像篡改或重复而导致的撤稿事件屡见不鲜,急需一款能够快速、准确地揭露虚假图像的识别工具。


由此,SnappShot 应运而生。这是一款AI驱动的在线解决工具,旨在帮助期刊编辑和科研诚信专家检测图像篡改问题,并直接融合进施普林格·自然的投稿系统中。


施普林格·自然的AI实验室与科研诚信小组合作,于2023年12月推出了SnappShot的首个版本,主要针对检测同一文章中凝胶电泳和蛋白印迹(G&B)图像重复问题(这也是学术图像不当行为中较为普遍的现象之一)。未来版本将进一步扩展功能,覆盖显微镜图像重复、图像剽窃等问题。


自 SnappShot 的最小可行产品(MVP)版本部署以来,测试者已利用该工具撤回或撤销了许多存在图像诚信问题的文章。

坚守科研诚信

这两款AI驱动工具,连同施普林格·自然正在扩充的专业人才队伍,正在帮助编辑和科研诚信团队共同捍卫学术记录。审核、验证并确保科研成果的学术公信力,是学术出版机构的重要责任,而这些不断改进的工具则是我们为履行这一承诺的重要举措之一。


这些新工具,我们会持续加以改进,它们将帮助我们领先于造假者一步,并确保我们发表的研究是坚实可靠、可以信赖和借鉴的。


——施普林格·自然科研诚信总监 Chris Graf


扫码学习 Springer Nature 开发的科研诚信免费课程

点击“阅读原文”阅读英文原文


Springer Nature科研服务
超过180年以来,施普林格·自然一直尽己所能地为整个科研共同体提供优质服务,以促进探索发现。
 最新文章