提示:欢迎点击上方「PaperRss」↑关注我们!
2025 年 1 月 13 日,瑞典布罗斯大学学院的研究人员在哈佛肯尼迪学院《错误信息评论》期刊上发表了一项研究报告。报告指出,人工智能(AI)生成的研究已对社会知识层面以及公众对科学的信任度构成威胁。研究人员在文献索引数据库 —— 谷歌学术平台中发现了上百篇疑似由 AI 生成的文章。这些 “垃圾科学” 的存在,意味着恶意行为者能够以更低成本制造和传播虚假科学,对社会和科研界都极为危险。一方面,AI 生成的研究增加了证据篡改风险,虚假研究可能被用于战略操纵,且这些有问题的文章传播速度快,已渗透到网络研究基础设施的多个组成部分,即便文章被撤回,也可能已造成潜在影响。另一方面,AI 生成的研究还给本就压力重重的同行评审系统带来难题,对参与在线研究人员的信息素养提出更高要求,否则人们易基于错误信息做决策。此外,谷歌学术平台虽使用便捷、搜索迅速,但并不等同于专业学术数据库,缺少必要的质量保证流程。这一缺陷在普通谷歌搜索结果中已出现问题,在涉及科学知识的普及与传播时,问题变得更为严峻复杂。此研究成果警示各界需重视 AI 生成研究带来的危害,进一步完善学术平台的管理与审核机制,以保障科学知识传播的真实性与可靠性 。- THE END -
【免责声明】图文来自网络,版权属于原作者,如有侵权或非授权发布之嫌,请联系我们,我们将及时更正、删除。转载目的在于促进信息交流,并不代表本公众号赞同其观点或对其内容真实性负责。欢迎关注PaperRSS公众号,每天都在更新。
PaperRSS,知名教育公众号。投稿、合作、转载授权事宜请联系本号。微信ID:IGDB2010 或邮箱:PaperRSS001@qq.com。此外,本公众号为国内实验室招聘人员、科研成果展示提供免费服务,欢迎垂询。