发表 3 天就被撤稿!西安医生用 AI 画的离谱插图,是怎么过审的?

健康   健康_医疗   2024-02-21 22:22   浙江  

本文作者:sysoon

近期,西安的 3 位医生用 AI 制作论文插图,并将文章顺利发表。


刊发不到 3 天,这篇论文就因为插图过于离谱引起热议,文章总阅读量一度超过 30 万。争议之下,期刊迅速撤稿,并公开致歉。


这张用 AI 绘制的插图,到底有多离谱?


文章中的 AI 插图之一,图源:该论文



超 30 万阅读,见刊 3 天后撤稿


2 月 13 日,西安 3 名脊柱外科医生在细胞生物学领域期刊 Frontiers in Cell Development and Biology 发表了题为 Cellular functions of spermatogonial stem cells in relation to JAK/STAT signaling pathway 的论文,阐述了精原干细胞与 JAK/STAT 信号通路相关的功能。


图源:Frontiers


论文中一共包含 7 张插图,其科学准确性却存疑。一张描述从大鼠睾丸中分离、纯化和培养精原干细胞的过程的插图由 AI 绘制完成,其中,一只大鼠拥有松鼠的坐姿,且有 4 个睾丸和比身体还大的阴茎,图右下侧的培养皿中还有一把汤勺。

左右滑动查看更多论文插图,图源:该论文


其余图片也被质疑,期刊的科学诚信顾问 Elisabeth Bik 评价:「信号通路图很混乱、没有进一步阐释,像在解释怎么做彩色甜甜圈」、「细胞图好像带香肠和蓝色西红柿的披萨」......


另外,插图的标注中还存在大量的英文单词拼写错误:stemm cells(正确:stem)、proprounization、Sinkecle......以及一些看起来像单词但实际上没有任何意义的字母组合(senctolic、dissilced 等)。期刊科学诚信顾问 Elisabeth Bik 在个人博客表示「这些拼写看得我抓狂」。


面对巨大的争议,在刊出该论文 3 天后,期刊迅速表示「会更正并发布修改后的论文」,随即又更新公告:该文章不符合期刊的编辑和科学严谨标准,予以完全撤回。



AI 绘制的荒谬插图,怎么过审的?


除了撤稿,期刊还单独公开致歉:「在该论文的审核流程中,有审稿人对于论文中的图形/数据(figures)提出了质疑并要求作者修改,但作者在当时并没有回应。


「论文最后还是通过评审后发出了,目前正在回溯、调查相关发表流程。为这一错误向科学界致以诚挚的歉意。」


致歉声明,图源:Frontiers


对于审稿人提出的文章具体质疑内容和修改要求,期刊在致歉声明中并未列出。但该论文作者用 AI 制作文章插图的行为,实际上却符合该期刊的投稿要求。


该期刊在相关规定中,允许人工智能加入(包括但不限于任何引述、引用或参考文献),但必须对其进行披露,并且作者必须检查其内容的准确性。


按照这个规定,论文作者也确实在对应内容处按照要求进行了标注和说明:插图是由人工智能绘画程序 Midjourney 生成。


作者的标注,图源:该论文


让 AI 进入论文,这篇论文的作者和所投期刊都不是个例。AI 辅助科研与论文发表早已受到了众多研究者与刊物的青睐和支持。


去年,美国田纳西大学健康科学中心的一名放射科医生使用 ChatGPT,4 个月写了 16 篇论文,其中 5 篇已发表。(点击链接查看往期文章:某院医生用 ChatGPT 在 4 个月内狂写 16 篇论文,其中 5 篇已发表


四大医学顶刊之一 NEJM 也在今年还专门推出了新杂志 NEJM AI,编辑团队在第一卷中发文鼓励研究者使用大语言模型(LLM)投稿。


图源:NEJM AI


AI 进论文获得众多支持,但本次这篇论文的顺利发表也让人开始担忧:如何保证 AI 创作出准确的内容、并接受合理的审核?


本次被撤回的论文,AI 绘制的插图从投稿到审核、最终发表,准确性都没有得到保证。其审稿人之一表示:「我只根据研究的科学价值来评估该论文,但最终是否发表 AI 论文由出版商(Frontiers)自己决定。」


混乱的审核和发表标准或许并不是个例。科学诚信顾问 Elisabeth Bik 担心其他只是看起来更加真实、实际上也缺乏准确性的 AI 论文已经渗透到了文献之中:「这篇论文能发表,说明科学期刊、编辑和同行评审员在接受和发表人工智能生成的论文方面可能都不够成熟。


图源:Elisabeth Bik 的博客文章


部分期刊关于 AI 参与论文的规则

(简要梳理)


NEJM:作者必须在提交稿件时披露是否使用人工智能辅助技术,并仔细审查和编辑所有材料,对其作品的准确性、完整性和原创性负责;人工智能生成的材料不能作为引用的主要来源。


JAMA:不鼓励提交和发布由人工智能、语言模型、机器学习或类似技术创建的内容,除非是正式研究设计或方法的一部分;作者需对其内容完整性负责。


Cell:如果作者在写作过程中使用生成人工智能(AI)和人工智能辅助技术,必须在稿件末尾添加披露声明,放在「利益声明」中,并对相关内容承担全部责任。


Science:对于论文中的图像和文本,只要在「方法」部分按要求披露,即可使用生成式人工智能(AI)和大语言模型。


中华医学会:生成式人工智能技术(GenAI )不能用于整篇论文或论文重要部分的撰写(如研究方法、结果和对结果的解释分析等),建议作者将 GenAI 辅助完成的部分(文本、图表、程序等)作为补充材料提交、存档,以便审稿人和编辑对论文的原创性进行评判。


策划:sysoon | 监制:carollero、gyouza
题图来源:Frontiers
参考资料:
1.https://www.frontiersin.org/articles/10.3389/fcell.2024.1386861/full
2.https://www.frontiersin.org/articles/10.3389/fcell.2024.1386660/full
3.https://www.frontiersin.org/news/2024/02/16/frontiers-statement-concerning-the-article-cellular-functions-of-spermatogonial-stem-cells
4.https://scienceintegritydigest.com/2024/02/15/the-rat-with-the-big-balls-and-enormous-penis-how-frontiers-published-a-paper-with-botched-ai-generated-images/

丁香园是面向医疗从业者的专业平台,以「助力中国医生」为己任。在丁香园,可以和同行讨论病例 ,在线学习公开课,使用用药助手等临床决策工具,在丁香人才找可靠医疗岗位。


丁香园
千万医务工作者的网上家园。我们深知医疗的痛苦与快乐,在丁香园里,您可以了解最新资讯、阅读深度报道,并与同行进行交流。
 最新文章