首页时事民生政务教育文化科技财富体娱健康情感

旅行百科职场楼市企业乐活学术汽车时尚创业美食幽默美体文摘

Nature曝惊人内幕：论文被天价卖出喂AI！出版商狂赚上亿，作者0收入

学术 2024-08-18 22:30 上海

新智元报道

编辑：编辑部

【新智元导读】Nature的一篇文章透露：你发过的paper，很可能已经被拿去训练模型了！有的出版商靠卖数据，已经狂赚2300万美元。然而辛辛苦苦码论文的作者们，却拿不到一分钱，这合理吗？

全球数据告急，怎么办？

论文来凑！

最近，Nature的一篇文章向我们揭露了这样一个事实：连科研论文，都被薅去训AI了……

据悉，很多学术出版商，已经向科技公司授权访问自家的论文，用来训练AI模型。

一篇论文从酝酿idea到成稿，包含了多少作者日日夜夜的心血，如今很可能在不知情的情况下，就成为训AI的数据。

这合理吗？

更可气的是，自己的论文还被出版商拿来牟利了。

根据Nature报告，上个月英国的学术出版商Taylor & Francis已经和微软签署了一项价值1000万美元的协议，允许微软获取它的数据，来改进AI系统。

而6月的一次投资者更新显示，美国出版商Wiley允许某家公司使用其内容训模型后，直接一举豪赚2300万美元！

但这个钱，跟广大论文的作者是半毛钱关系都没有的。

而且，华盛顿大学AI研究员Lucy Lu Wang还表示，即使不在可开放获取的存储库内，任何可在线阅读的内容，都很可能已经被输入LLM中。

更可怕的是，如果一篇论文已经被用作模型的训练数据，在模型训练完成后，它是无法删除的。

如果现在，你的论文还尚未被用于训练AI，那也不用担心——它应该很快就会了！

数据集如黄金，各大公司纷纷出价

我们都知道，LLM需要在海量数据上进行训练的，而这些数据通常是从互联网上抓取的。

正是从这些训练数据中数十亿的token中，LLM推导出模式，从而生成文本、图像、代码。

而学术论文篇幅又长，信息密度又高，显然就是能喂给LLM的最有价值的数据之一。

而且，在大量科学信息上训练LLM，也能让它们在科学主题上的推理能力大大提高。

Wang已经共同创建了基于8110万篇学术论文的数据集S2ORC。起初，S2ORC数据集是为了文本挖掘而开发的，但后来，它被用于训练LLM。

2020年非营利组织Eleuther AI构建的Pile，是NLP研究中应用最广泛的大型开源数据集之一，总量达到800GB。其中就包含了大量学术来源的文本，arXiv论文比例为8.96%，此外还涵盖了PubMed、FreeLaw、NIH等其他学术网站。

前段时间开源的1T token数据集MINT也挖掘到了arXiv这个宝藏，共提取到了87万篇文档、9B token。

从下面这张数据处理流程图中，我们就能发现论文数据的质量有多高——几乎不需要太多的过滤和去重，使用率极高。

而现在，为了应对版权争议，各大模型公司也开始真金白银地出价，购买高质量数据集了。

今年，「金融时报」已经把自己的内容以相当可观的价格，卖给了OpenAI；Reddit也和谷歌达成了类似的协议。

而以后，这样的交易也少不了。

证明论文曾被LLM使用，难度极高

有些AI开发者会开放自己的数据集，但很多开发AI模型的公司，会对大部分训练数据保密。

Mozilla基金会的AI训练数据分析员Stefan Baack表示，对于这些公司的训练数据，谁都不知道有什么。

而最受业内人士欢迎的数据来源，无疑就是开源存储库arXiv和学术数据库PubMed的摘要了。

目前，arXiv已经托管了超过250万篇论文的全文，PubMed包含的引用数量更是惊人，超过3700万。

虽然PubMed等网站的一些论文全文有付费墙，但论文摘要是免费浏览的，这部分可能早就被大科技公司抓取干净了。

所以，有没有技术方法，能识别自己的论文是否被使用了呢？

目前来说，还很难。

伦敦帝国理工学院的计算机科学家Yves-Alexandre de Montjoye介绍道：要证明LLM使用了某篇确定的论文，是很困难的。

有一个办法，是使用论文文本中非常罕见的句子来提示模型，看看它的输出是否就是原文中的下一个词。

有学者曾以「哈利·波特与魔法石」第三章的开头提示GPT-3，模型很快正确地吐出了大约一整页书中的内容

如果是的话，那就没跑了——论文就在模型的训练集中。

如果不是呢？这也未必是有效证据，能证明论文未被使用。

因为开发者可以对LLM进行编码，让它们过滤响应，从而不和训练数据过于匹配。

可能的情况是，我们费了老大劲，依然无法明确地证明。

另一种方法，就是「成员推理攻击」。

这种方法的原理，就是当模型看到以前见过的东西时，会对输出更有信心，

论文地址：https://arxiv.org/abs/2112.03570

为此，De Montjoye的团队专门开发了一种「版权陷阱」。

论文地址：https://arxiv.org/abs/2402.09363

为了设置陷阱，团队会生成看似合理却无意义的句子，并将其隐藏在作品中，比如白色背景上的白色文本或网页上显示为零宽度的字段。

如果模型对未使用的控制句的困惑度，比对隐藏在文本中的控制句的困惑度更高，这就可以作为陷阱曾被看到的统计证据。

版权争议

然而，即使能证明LLM是在某篇论文上训练的，又能怎么办呢？

这里，就存在一个由来已久的争议。

在出版商看来，如果开发者在训练中使用了受版权保护的文本，且没有获得许可，那铁定就是侵权。

但另一方却可以这样反驳：大模型并没有抄袭啊，所以何来侵权之说？

的确，LLM并没有复制任何东西，它只是从训练数据中获取信息，拆解这些内容，然后利用它们学习生成新的文本。

当然，这类诉讼已经有先例了，比如「纽约时报」对OpenAI那场石破天惊的起诉。

其中更加复杂的问题，是如何划清商用和学术研究用途。

根据目前arXiv网站上的使用条款，如果是个人或研究用途，抓取、存储、使用所有的电子预印本论文和网站元数据都是合规且被支持的。

然而，arXiv对商业方面的使用是严令禁止的。

那么问题来了，如果某个商业公司使用了学术机构发布的开源数据集训练自己的商业模型，且数据来源含有arXiv或类似学术出版机构，这怎么算？

此外，出版商在用户的订阅条款中往往也没有明确规定，能否将论文用作模型的训练数据。

比如，一个付费购买Wiley论文库阅读全文资格的用户，是否被允许将这些文本拷贝下来喂给模型？

现在的问题是，有人想让自己的作品纳入LLM的训练数据中，有人不想。

有人已经做出来一个[haveibeentrained」的同名网站，用来检测自己的内容是否被用于训练AI模型

比如Mozilla基金会的Baack就表示，非常乐于看到自己的作品让LLM变得更准确，「我并不介意有一个以我的风格写作的聊天机器人」。

但是，他只能代表自己，依然有其他很多艺术家和作家，会受到LLM的威胁。

如果提交论文后，这篇论文的出版商决定出售对版权作品的访问权限，那个别的论文作者是根本没有权力干涉的。

整个圈子也是鱼龙混杂，公开发表的文章既没有既定的方法来分配来源，也无法确定文本是否已被使用。

包括de Montjoye在内的一些研究者对此感到沮丧。

「我们需要LLM，但我们仍然希望有公平可言，但目前我们还没有发明出理想的公平是什么样子。」

多模态数据不够，arXiv来凑

事实上，庞大的arXiv论文库中，可以利用的不止文本数据。

ACL 2024接收了一篇来自北大和港大学者的论文，他们尝试利用这些论文中的图文构建高质量多模态数据集，取得了非常不错的效果。

项目主页：https://mm-arxiv.github.io/

前段时间，纽约大学谢赛宁教授和Yann LeCun等人发布的Cambrian模型也用到了这个数据集。

之所以要用arXiv论文中的图片，主要还是由于科学领域训练数据集的稀缺。

GPT-4V等视觉语言模型虽然在自然场景的图像中有出色的表现，但在解释抽象图片方面，比如几何形状和科学图表，依旧能力有限，也无法理解学术图片中细微的语义差别。

这篇论文构建的多模态arXiv数据集总共用到了各个STEM领域的57.2万篇论文，超过arXiv论文总数（2.5M）的五分之一，包含两部分：问答数据集ArXivQA和图片标注数据集ArXivCap。

依托arXiv大量且多样的论文收录，与之前的科学图片数据集相比，ArXivCap的数据量是第二名SciCap的3倍，ArXivQA也是唯一涵盖广泛领域内真实论文的问答数据集。

通过使用这些领域特定数据进行训练，VLM的的数学推理能力有了显著增强，在多模态数学推理基准上实现了10.4%的准确率提升。

比如，在ArXivQA上训练过的Qwen 7B模型能够正确理解条形图并回答相关问题（左图），数学能力也有所提高（右图）。不仅答案正确，给出的推理过程也更加完整充分。

数据集构建

数据集的构建流水线如下图所示。由于arXiv是预印本平台，所以需要先通过发表记录筛选出被期刊或会议接收的论文，以保证数据质量。

提取论文中的图片-文字对并进行基于规则的清理后，组成ArXivCap；ArXivQA则由GPT-4V生成，但使用了精心设计过的prompt模板。

ArXivCap中的一个单图标注对：

2019年论文「Semigroup models for biochemical reaction networks」

ArXivCap数据集中的一个多图标注对：

2018年论文「Low-Power Wide-Area Networks for Sustainable IoT」

ArXivQA数据集示例：

2020年论文「Skyrmion ratchet propagation: Utilizing the skyrmion Hall effect in AC racetrack storage devices」

评估

根据在MathVista数据集上的结果，ArXivCap和ArXivQA共同提升了Qwen-VL-Chat的整体性能，超越了Bard的表现。

最佳结果以粗体显示，次佳结果以下划线标记

在为单张图片生成图注的任务中，提升效果更加显著，经过ArXivCap训练的Qwen 7B模型可以匹配甚至超过GPT-4V。

灰色结果由数据集中500个样本的测试得到

论文提出了三个新定义任务：多图的图注生成、上下文中的图注生成以及标题生成。经过ArXivCap训练的Qwen 8B的所有分数都超过了GPT-4V，且多数情况下是最佳结果。

最佳结果以粗体显示

按照研究领域划分，ArXivQA数据集上的训练在天体物理、凝聚态物理、数学、计算机科学这些领域都能带来相当显著的提升，超过60%，准确率变化比例超过60%。

人工评估

前面所述的文本生成质量和准确率都是基于算法的自动评估，研究团队还对单图的图注生成任务进行了人工评估，但只专注于计算机科学领域的论文。

与前面的基准测试结果相比，人工评估的结果并不理想，100个案例中只有16%被认为是「可接受的」，「上下文误读」的问题相对严重，也有一定比例的「过度简化」和「识别错误」。

参考资料：

https://www.nature.com/articles/d41586-024-02599-9

公号介绍

☟

IEEE 论文那些事儿

解读期刊、会议最新动态

分享论文写作与发表经验

提供专业的论文写作辅导、英文润色服务

助你从SCI入门到顶刊顶会之路不再忧愁

交流、加群、投稿、润色、合作, 欢迎扫码加微信:

☟

学术科普

✚

●

○

关于学术出版的七件事

EndNote X9常用方法汇总

青年学者加入学术期刊编委会的益处

学术界身份证——ORCID的原理、注册与使用

学术论文投稿你用什么邮箱，QQ邮箱可以吗？

从一条审稿意见，聊聊SCI论文的作者信息该怎么写

IEEE知识

IEEE会员制度科普

IEEE给您8条筹备学术会议的建议

最新IEEE期刊中科院分区结果出炉

如何从一个 EE 专业的学生成长为 IEEE Fellow

如何利用IEEE Xplore进行高效科研

集齐IEEE Letter、Journal、Transaction、Magazine、Proceeding, 召唤神龙

Access

✚

●

○

IEEE Access那些事儿——自序

IEEE Access那些事儿——审稿流程

IEEE Access那些事儿——投稿技巧

IEEE Access那些事儿——催稿与重投

IEEE Access那些事儿——AE去哪儿

IEEE Access那些事儿——投稿过程实录（内含缴费细节）

IEEE Access的质量到底如何——亲历百篇文章后的经验之谈

中文期刊

✚

●

○

电子信息类中文权威期刊(SCI&EI)投稿攻略

计算机专业权威期刊投稿经验总结

计算机学科部分核心期刊投稿攻略

[New]EI收录的国内期刊大全

NCS介绍

✚

●

○

《Science》投稿科普

《Nature》投稿指南

《Nature Electronics》介绍及投稿经验分享

[New] Nature Communications投稿科普

投稿建议

✚

●

○

IEEE Trans那些事儿——交通学科Trans

[New] 机器人与控制领域高水平期刊介绍

[New] IEEE Trans. on Image Processing 投稿经验

[New] IEEE Trans. on Neural Networks and Learning Systems简介

介绍一个中科院一区的IEEE期刊——速度快、因子高、容易中

******更多投稿建议，请移步知识星球******

往期好文

✚

●

○

SCI降重办法梳理

SCI投稿常用询问信

如何提升科研成果影响力

想吸引审稿人，你需要......

提升科研效率的几款小工具

学术会议 Poster==PPT？NO！

投稿前，给你的SCI论文做个体检

文章成长之道——一位优青的三步曲

如何精简SCI论文篇幅，达到指定字数？

《Science》发文：没时间写论文？这么办！

【同行评议】如何撰写审稿报告？

[New] 前沿介绍| 一个可以给你paper增加创新点的新方法

[New] 计算机学科期刊大全（揽括8大方向所有期刊）

[New] 评选院士、杰青、长江、千人等有多难？评选条件了解一下

公号动态

✚

●

○

知识星球介绍——理工科SCI论文交流圈

知识星球介绍——IEEE Access那些事儿

知识星球“IEEE Access那些事儿”科研喜报

“IEEE AccessTrans那些事儿”内容生态全新发布

[New] 通知！第一批8个方向的论文微信群建立并开放入群

点“在看” 的读者天天中文章，年年中基金

http://mp.weixin.qq.com/s?__biz=MzU5MzkyNjY3Mg==&mid=2247501956&idx=1&sn=6297e2bc9ab13ebf63f37a5ec275e0e3

IEEE论文那些事儿

本公众号旨在介绍计算机、电子信息领域SCI期刊（重点是IEEE Trans）的最新状态、审稿规则、投稿技巧、发表经验，助力读者实现从入门级SCI到高水平SCI的跨越。同时，介绍相关领域的前沿进展、人才评选、项目申报、科研趣谈等内容。

最新文章

成为「青年教师」的六大要素

博士师兄哭了：太丢人了，评职称竟然输给了硕士！

国产SCI期刊，实时IF2024

2024人工智能十大前沿技术趋势发布

论文在Nature发表当天，多国投资人给他发来邮件

“院士之乡”：一共走出26位院士，百位高校校长，一万名教授

号称YOLO终结者？一探究竟RT-DETR

出道即巅峰，中科院1区Top，2个月光速录用！

坐标厦门：招100+，全部纳入事业编！青年博士凭5篇JCR二区定类拔尖人才，安家费50万！可额外领安家补助50万+生活补贴8万；

这位长者将在任期间所获奖金，全部捐给这所985！

五世科学不衰、四世革命不断｜八代家谱

IEEE出版的SCI期刊，实时IF2024

7800亩！985大学，投资432亿建国内最大校区

新华社：事关评职称，有啥新变化？

别再嘲笑reviewer 2了，现在审稿人都找不到了……

聊聊中国的大科学装置

博士毕业，万万去不得的10种高校

从事编辑工作的马克思，一共向恩格斯要了多少经济援助?

因为影响科研，北大“抗议”地铁经过学校

太矫情？各行各业都很卷，凭什么总是大学老师在喊累？

多所高校召开新一轮考研动员会：有的提出动员全体本科生

60-300万安家费！临沂大学2024年诚聘413名博士，教师岗！

SCI论文返修时间太长或太短都不好？速看如何把控返修时间！

多位华人学者当选！英国皇家工程院2024年院士增选名单公布

谨防中招！2024国自然收官，但申请书里的这些门道你真的弄明白了吗？

从“冷门”中诞生，千亿市值的“寒武纪”是怎样炼成的？

最新！2024年度全球前2%顶尖科学家榜单发布（全名单）

这位研究生用AI写的论文，导师看了都直呼内行？！

“人工智能”所有SCI期刊，实时IF2024

警惕！针对科研人员的新型骗局！已有多人被骗！

同领域母语编辑润色，助你提升论文录用率【SCI论文作者必看】

35岁中年博士失业，决定给找高校教职的后辈一些建议

发文量暴涨5倍！曾被预警的2区《Applied Science》升为1区成为毕业神刊？

十年前的今天，36岁的我读了博士

IEEE系列，新晋Top期刊，年发文量1000+来者不拒！

工作五年后的深刻思考，告诉你高校科研和企业研发的区别

使用大型语言模型进行同行评审的危险

沾边就有机会的计算机期刊！

这本信息学科1区TOP期刊已被解除on Hold

SCI专刊你知多少？更容易发？

国产期刊，IF短短八年从6分涨至18.8，官网:63天录用！收稿范围广

影响因子4.5的计算机期刊，被SCIE剔除！

重磅发布｜中国人工智能学会推荐国际学术会议和国际/国内期刊目录

审稿人指定文章做参考文献，如何婉拒？这份回复模板免费拿走！

博士论文盲审没过，找好的工作也泡汤了！论文盲审我该怎么办？

无版面费，计算机沾边就收的SCI！

Nature曝惊人内幕：论文被天价卖出喂AI！出版商狂赚上亿，作者0收入

慎投 | 投CCF/SCI全军覆没

震惊，国产顶刊投稿网址被假冒！

科研人脉经营的“马太效应”：揭秘如何构建学术圈的黄金关系网！

分类

原创标签

时事社会财经军事教育体育科技汽车科学房产搞笑综艺明星音乐动漫游戏时尚健康旅游美食生活摄影宠物职场育儿情感小说曲艺文化历史三农文学娱乐电影视频图片新闻宗教电视剧纪录片广告创意壁纸头像心灵鸡汤星座命理教育培训艺术文化金融财经健康医疗美妆时尚餐饮美食母婴育儿社会新闻工业农业时事政治星座占卜幽默笑话独立短篇连载作品文化历史科技互联网

发布位置

广东北京山东江苏河南浙江山西福建河北上海四川陕西湖南安徽湖北内蒙古江西云南广西甘肃辽宁黑龙江贵州新疆重庆吉林天津海南青海宁夏西藏香港澳门台湾美国加拿大澳大利亚日本新加坡英国西班牙新西兰韩国泰国法国德国意大利缅甸菲律宾马来西亚越南荷兰柬埔寨俄罗斯巴西智利卢森堡芬兰瑞典比利时瑞士土耳其斐济挪威朝鲜尼日利亚阿根廷匈牙利爱尔兰印度老挝葡萄牙乌克兰印度尼西亚哈萨克斯坦塔吉克斯坦希腊南非蒙古奥地利肯尼亚加纳丹麦津巴布韦埃及坦桑尼亚捷克阿联酋安哥拉