首页 时事 民生 政务 教育 文化 科技 财富 体娱 健康 情感
更多
旅行 百科 职场 楼市 企业 乐活 学术 汽车 时尚 创业 美食 幽默 美体 文摘

惊掉下巴！被字节起诉800万的北大高材生田柯宇，拿下NeurIPS 2024最佳论文

文摘   2024-12-04 21:02   江苏  


  新智元报道  

【导读】太戏剧了！攻击字节训练集群的实习生，居然刚刚获得了NeurIPS 2024最佳论文奖？虽然看起来像爽文剧情，但这位高材生接下来的路，应该是难走了。

刚刚，恶意攻击字节训练集群的实习生田柯宇，获得了NeurIPS 2024的最佳论文奖。
更巧的是，这篇获奖论文，恰恰就是他在字节商业化技术部门实习期间与团队合作发表的。
甚至，这篇论文还是NeurIPS 2024第六高分的论文（7,8,8,8）。
事情在网上曝出的时候，网友们都震惊了：太有戏剧性了，这是什么短剧的大反转剧情！
根据网友的说法，田柯宇的这篇论文也是国内第二篇NeurIPS Best Paper，含金量很高。
在此之前，他就已经有多篇论文中稿顶会。
比如被引次数最多的「Designing BERT for Convolutional Networks: Sparse and Hierarchical Masked Modeling」，就是ICLR 2023的Spotlight。此外还有，NeurIPS 2021和2020的Poster，ECCV 2020的Poster。
据新智元了解，字节商业化技术团队早在去年就把视觉自回归模型作为重要的研究方向，团队规划了VAR为高优项目，投入研究小组和大量资源。
除了VAR，团队还发表了LlamaGen等相关技术论文，新的研究成果也将在近期陆续放出。

事件始末：恶意注入代码，投毒模型训练

回看整件事情，可谓反转又反转。
两个月前，圈内人都被这样一条消息惊掉下巴：「字节跳动大模型训练被北大实习生攻击，损失巨大」。
什么仇什么怨，要做这样的事？
网友们扒出来，事情起因是这位北大高材生在字节实习期间对团队感到不满，一气之下选择了「投毒」。
具体来说，他利用了Huggingface的load ckpt函数漏洞，craft了一个看似正常的ckpt文件，但其实是加了payload进去，然后就可以远程执行代码，修改参数了。
这种攻击方式，可以通过修改或注入恶意代码，使模型在加载时被篡改模型权重、修改训练参数或截取模型数据。
根据大V「Jack Cui」猜测，这位实习生所用的大概就是这个方法，注入代码动态修改别人的optimer，修改参数梯度的方向，以及在各种地方随机sleep了一小段时间。
修改梯度方向，意味着模型反向传播过程中计算出的梯度被篡改，就导致模型一直朝错误的方向优化；而sleep操作，也会明显降低模型训练的速度。
甚至有人提到，该实习生可能修改了自己的预训练模型，因为模型参数是用ckpt文件保存的，其他人训练时会加载这个注入恶意代码的ckpt文件，因此也会导致模型训练出问题。
就在全网叹为观止之时，田本人却出来「辟谣」称这事和自己没关系——他发完论文后已经从字节离职了，此时有另一个人钻了漏洞修改模型代码，然后趁他离职把锅扣在他头上。
结果一个多月后，此事再一次迎来反转。
有媒体报道称，法院已经正式受理字节跳动对前实习生田某某的起诉。
法院判令田某某赔偿侵权损失800万元及合理支出2万元，同时要求其公开赔礼道歉。
字节官方也澄清说，涉事实习生破坏的是团队研究项目，并不影响商业化正式项目，也不涉及字节跳动大模型等其他业务。
最终，这位实习生被字节辞退，交由校方处理。
资料显示，田柯宇本科毕业于北航软件学院，研究生就读于北大，师从王立威教授，研究兴趣为深度学习的优化与算法。
自2021年起，开始在字节跳动实习研究，具体包括超参数优化、强化学习算法、自监督的新型算法。

AI顶会NeurIPS，录用率25.8%

NeurIPS全称神经信息处理系统大会（The Conference on Neural Information Processing Systems），是人工智能（AI）、机器学习（ML）和数据科学领域最负盛名且最具影响力的会议之一。
它于1987年首次举办，当时名字是「神经信息处理系统」（NIPS），主要为快速兴起的神经网络领域提供一个交流思想的平台。
随着会议范围逐渐扩大，涵盖了人工智能和机器学习更广泛的主题，会议名称于2018年更改为NeurIPS。
今年，是NeurIPS第38届年会，将于下周12月9日-15日在温哥华召开。
NeurIPS顶会同样以严格的同行评审过程而著称，2023年录用率为26.1%，2022年为25.6%。

NeurIPS历年接收率
今年，顶会一共接受了15671篇论文，录用率为25.8%，其中评审最低分2.2，最高分8.7，具体来说：

- Oral 61篇（0.39%）

- Spotlight 326篇（2.08%）

- Poster 3650篇（23.29%）
参考资料：
https://www.toutiao.com/w/1813324433807370/?log_from=d66b759dee10a_1733273717412
https://github.com/FoundationVision/VAR
上海精英家长圈
孩子成功的决定性因素来自父母的眼界、认知和选择。这是专注分享精英家长们家庭教育心得和经验的平台~
 最新文章
今年早申被MIT录取的2名中国竞赛大神，履历曝光……
李飞飞曾入选的AI2050最新名单出炉！清华校友等6位华人上榜
MIT等院校录取内幕被曝光，保录名单、内部邮件悉数披露……
今年藤校早申放榜齐了！都是哪些大神谁拿走了offer？
2025英伟达奖学金名单公布，7位华人入选！人均6万美元
今年早申被MIT录取的他，是信奥满分世界冠军，此前被北大图灵班锁定
谷爱凌：再见，牛津……
你，是否也想成为光？
重大利好！美国修改中国J-1签证规定，15年来首次！
三大藤校2025年早申放榜啦！哈佛大陆零录取...
重要！被造假搞怕了的澳门大学，暂停内地非高考生申请
南方哈佛埃默里ED1放榜！魔都学子领跑全国
超级中学作息曝光, 刺痛多少人：孩子他们是最可怜的一群人
花70万找中介上港大，孩子刚读1年被清退！已全额退款，家长：中介私下伪造材料……
22岁中国留学生，因涉嫌非法禁锢15岁中国少女被捕，拒绝认罪
北京定向选调停招留学生，留学性价比又遭质疑了！
为什么都在卷港校？看看香港八大高校毕业生薪资就懂了！
惊掉下巴！被字节起诉800万的北大高材生田柯宇，拿下NeurIPS 2024最佳论文
今年五大学科竞赛收官：260名国集选手来自哪些中学？
美国教授痛心：UC伯克利GPA 4.0计算机本科生，毕业即失业？ML博士直呼太卷后悔转行
当AI成了“作弊神器” ，崩溃的不只是老师……
愁！华人为拿H1B签证，加拿大苦等2个月，花费15000刀！
明年1月20日后，留学生出境恐无法返美！美国多所大学发警告
霸气！MIT最新官宣：家庭收入低于20万美元，学费全免！
判了！初三学生上体育课受伤，法院：学校不担责
13位华人学生入选！上海星河湾学子论文获得Spotlight！
我们如何避免成为「控制型家长」？
美国移民局发新规：绿卡入籍标准放宽！
20名学生潜逃，4人被捕！涉嫌用假学历、假成绩入读澳门科技大学
今年耶鲁早申人数暴跌？国际生申请人数减少30%！
英国学生哭了！英国教育部长宣布25年开始本土学生涨学费！那国际生呢？
创10年新高！UCAS发布2025Fall首轮数据，中国内地学生申请数量暴涨14%！
谷歌2024博士奖学金公布！数十位华人入选
突发！康奈尔大学警告国际学生明年1月后不要做这些事！
斯坦福大学高级研究员弗朗西斯·福山：特朗普释放的力量对美国意味着什么？
春节和劳动节假日各增1天！2025年放假安排来了
一部电影直揭原生家庭之痛：孩子和妈妈的关系，决定了他跟世界的关系
难！国际学生「锐减50%」，英国大学正在计划考虑合并？
港大“学历造假保录”细节曝光！上海杉达学院毕业24岁女生，伪造藤校学历，监禁17周+遣返内地！
川普重返白宫第一天计划：大学生顺利毕业就“自动”获绿卡？
突发！教育部：对13所国外院校学历学位认证加强审查
川普“回宫”！留学未来四年祸福难料，爬藤工签难如登天？
90后上海女生，成美国数学大奖首位女性华人得主！中学毕业自上外附中......
特朗普宣布胜选！第47任美国总统，留学生的“劫”来了……
决战时刻！哈里斯喊话全美华人
陶哲轩盛赞！美国高中女生因数学竞赛，发现勾股定理新证明！
“天才少女”姜萍因在预选赛中违规未获奖！｜热点
太过分！上海又一家机构被曝倒闭，工作人员：沪上分校全都关了！
任正非：孩子一定要发展自己的长处，而不是补短
华尔街日报：川普要对合法移民动手？
 分类
时事
民生
政务
教育
文化
科技
财富
体娱
健康
情感
旅行
百科
职场
楼市
企业
乐活
学术
汽车
时尚
创业
美食
幽默
美体
文摘
 原创标签
时事 社会 财经 军事 教育 体育 科技 汽车 科学 房产 搞笑 综艺 明星 音乐 动漫 游戏 时尚 健康 旅游 美食 生活 摄影 宠物 职场 育儿 情感 小说 曲艺 文化 历史 三农 文学 娱乐 电影 视频 图片 新闻 宗教 电视剧 纪录片 广告创意 壁纸头像 心灵鸡汤 星座命理 教育培训 艺术文化 金融财经 健康医疗 美妆时尚 餐饮美食 母婴育儿 社会新闻 工业农业 时事政治 星座占卜 幽默笑话 独立短篇 连载作品 文化历史 科技互联网
 发布位置
广东 北京 山东 江苏 河南 浙江 山西 福建 河北 上海 四川 陕西 湖南 安徽 湖北 内蒙古 江西 云南 广西 甘肃 辽宁 黑龙江 贵州 新疆 重庆 吉林 天津 海南 青海 宁夏 西藏 香港 澳门 台湾 美国 加拿大 澳大利亚 日本 新加坡 英国 西班牙 新西兰 韩国 泰国 法国 德国 意大利 缅甸 菲律宾 马来西亚 越南 荷兰 柬埔寨 俄罗斯 巴西 智利 卢森堡 芬兰 瑞典 比利时 瑞士 土耳其 斐济 挪威 朝鲜 尼日利亚 阿根廷 匈牙利 爱尔兰 印度 老挝 葡萄牙 乌克兰 印度尼西亚 哈萨克斯坦 塔吉克斯坦 希腊 南非 蒙古 奥地利 肯尼亚 加纳 丹麦 津巴布韦 埃及 坦桑尼亚 捷克 阿联酋 安哥拉