随着ChatGPT的流行，以此为代表的AI工具在各行各业掀起了使用浪潮。学术界也不例外，越来越多的研究人员将AI应用到自己的科研工作中。
然而，AI是把双刃剑，对学术研究亦是如此。恰当使用能够提高科研工作的效率，让研究人员将更多的时间和精力用于更具创造力的工作；反之，便会带来潜在的风险，甚至沦为学术不端行为的工具，危害科研诚信。因此，在全球范围内的多所高校和科研机构均出台政策试图规范AI工具在科研活动中的使用。
科研诚信关乎学术生态系统中的每个人。作为图书馆员，有必要加强对这一重要课题的认识：存在哪些问题、如何解决，以及由谁来应对。而在AI时代，了解如何借力新兴科技维护科研诚信，将让您更好地支持您所在的机构和研究人员，成为维护科研诚信力量中不可或缺的一部分。
在一场精彩的网络研讨会“科研诚信和AI：应对挑战，发掘潜力”上，施普林格·自然科研诚信总监Chris Graf介绍了我们如何“用魔法打败魔法”，让AI从“作案工具”变为对抗学术不端行为的利器。
Chris Graf
Chris Graf在科研诚信方面拥有丰富的经验和独到的见解，他领导着施普林格·自然的科研诚信小组，该小组致力于通过开发工具、开展培训和建立流程，应对学术不端行为，支持和捍卫科研诚信，维护学术生态系统。
本文总结了这次研讨会的精彩要点，不仅探讨了科研诚信，介绍了施普林格·自然开发的用于检测虚假稿件和图片的AI工具，以及合作在对抗科研不端中的重要性。我们还汇总了一份AI电子图书精选书单，以期帮助图书馆员支持其所在机构的师生和研究人员应对人工智能给科研诚信带来的复杂挑战。
撤回已发表的研究以纠正错误
“诚信”的本质就是做正确的事，这离不开责任、诚实和勇气。在研讨会的开场，Chris就学术出版中的不同参与者在撤回已发表研究的过程中如何“做正确的事”进行了说明。
来源：chris2766 / Stock.adobe.com
对作者而言这可能意味着，当他们发现自身研究中的错误或问题时，与出版机构合作撤回其发表的论文——尽管这可能有损他们的声誉。出版机构也应当主动撤回有问题的论文。
撤稿的例子有很多，如2018年诺贝尔化学奖得主之一在无法重复实验结果后撤回了于2019年发表的论文。需要注意的是，尽管近年来撤稿数量出于种种原因不断增加，但仍然只占每年发表论文总量的很小一部分——不到0.1%。
开发AI工具检测诚信问题
当一篇论文被发现存在任何不端或错误时，撤稿是正确的选择。但如果一开始这些论文没能出版岂不是更好吗，Chris问道。如何才能从科研工作的早期就尽可能避免这些潜在的问题？为此需要投资开发相关的工具和程序，让那些存在诚信问题的论文在进入同行评审阶段之前就被发现并剔除。
施普林格·自然的论文质量检查就是这么做的。在2023年10月施普林格·自然收到的超过10万份稿件中，有1.1万份（11%）因未达到施普林格·自然的质量检查要求而被拦截，未能送至同行评审。最终，有2300份（占总投稿量的2.3%）稿件因为各类诚信问题而被终止出版。
那这些论文是怎样被发现并拦截的呢？Chris介绍了施普林格·自然开发的两款内部AI工具，它们能帮助专家迅速做出正确的决定（“很棒的工具”，Chris评价道）：
Geppetto：用于检测投稿中是否有AI生成的内容。Chris强调，只要以负责任的方式使用、配合全面且细致的人工监督并且完整地记录，研究人员是可以借助AI和LLM等新技术开展正当的工作和辅助写作。然而，这些工具也有可能被滥用，以生成虚假的研究，而Geppetto就旨在识别这类稿件。
SnappShot：是一款AI辅助的图像诚信分析工具，能够检测图像篡改或重复问题。图像诚信问题可能源于人为错误或不当使用。不管是失误还是不端，最好是能及早发现这些问题，并在出版前采取适当的措施。
*Geppetto和SnappShot均不决定投稿是否进入下一阶段的编辑流程，而是提示需要对内容或图像进行人工评判与否。
分享知识以促进科研诚信
不论是筛除不端行为还是帮作者处理无意之失，在早期解决诚信问题有利于整个科研系统，Chris说。为促进科研诚信，施普林格·自然还推出了免费的培训资源，以期帮助研究人员和其他学术相关群体在科研活动中更好地践行科研诚信：
《科研诚信：入门课》：Chris的团队推出了一节时长45分钟的免费自学在线课程，其中对科研伦理和出版伦理进行了概述，致力于帮助研究人员对科研诚信有一个更为全面系统的了解。
《科研诚信和出版伦理》：这节自然大师课堂出品的在线课程由《自然》系列期刊的主编等7位专家学者授课，从稿件准备、发表和出版后等多个方面提供全方位的指导，帮助研究人员学习如何规避在写作与发表研究成果时潜在的学术不端行为。
《科研诚信：入门课》
《科研诚信和出版伦理》
在支持研究人员更好地借力新技术等方面，图书馆员作为信息资源的提供者和知识传承者，具有独特的优势。考虑到研究人员在科研诚信上往往缺少正式培训，这些工作尤为重要。图书馆员在帮助研究人员以有效且符合伦理的方式使用AI工具中发挥着重要作用，了解AI工具并提供相关建议已经成为其重要职责。
作为数字化时代的信息资源提供者和知识传承者，当代图书馆员在倡导科研诚信、推广相关的教育资源，以及帮助研究人员以有效且符合伦理的方式使用AI工具中发挥着重要作用。
为了帮助图书馆员更好地支持其所在机构的学术群体应对人工智能给科研诚信带来的复杂挑战，我们汇总了一份AI电子图书精选书单，其主题涵盖AI、新兴技术以及AI与科研诚信等，欢迎扫描图片上的二维码下载书单。
科研与学习的卓越之选
人工智能已从计算机科学等学科的一个研究领域迅速发展成为一个正在快速改变其他多个学科和行业的关键领域。施普林格·自然将于2025年推出全新图书合集，关注人工智能。该合集从理论基础和伦理影响等多个角度收录人工智能领域的研究成果和创新实践，助力科研人员快速了解和把握AI领域的前沿研究和发展。
施普林格∙自然电子图书是科学、医学、技术、人文和社会科学领域的卓越之选，拥有30万余种电子图书，包括学术专著、会议论文集、简报、参考工具书、教科书和系列丛书等，适合不同层次和阶段的学习与研究。我们每年新出版12,000多种图书，涵盖广泛的学科领域和前沿及新兴研究。在泰晤士高等教育世界大学排名前100的高校中目前有83所选择施普林格∙自然电子图书。
施普林格∙自然现拥有22个图书合集，涵盖科学、医学、技术和人文社科等学科领域。2025年将新增2个全新的图书合集，关注AI和机器智能。无论您是刚刚开始采购电子图书，还是希望扩展现有馆藏，我们都能提供与您所在机构研究目标相匹配的解决方案。
施普林格∙自然电子图书试用申请
如果您对我们的电子图书感兴趣，欢迎扫码填写表单推荐您所在的院校或机构申请试用。
相关阅读：
版权声明：
本文由施普林格∙自然上海办公室负责整理翻译。中文内容仅供参考，一切内容请以原文为准。欢迎转发分享本文，如需转载，请留言或联系China@nature.com。
© 2024 Springer Nature Limited. All Rights Reserved
欢迎点击“阅读原文”探索更多图书合集
