01
前情提要
2024 年 10 月有业界消息称,“某头部大厂的大模型训练被实习生入侵,注入了破坏代码,导致其训练成果不可靠,可能需要重新训练。据称遭到入侵的代码注入了 8000 多张卡,带来的损失可能超过千万美元。” 知情人士表示该公司为字节跳动。
根据传闻,某高校的博士在字节跳动商业化技术团队实习,因对团队资源分配不满,使用攻击代码破坏团队的模型训练任务。该田姓实习生利用了 HF(huggingface)的漏洞,在公司的共享模型里写入破坏代码,导致模型的训练效果忽高忽低,无法产生预期的训练效果,而且 AML 团队无法核查原因。但传闻曝出之后,该实习生还在某微信群里辟谣称,自己发完论文后就从字节跳动离职,这个当口有另一个人钻漏洞改模型代码,把锅扣到自己头上。
10 月 19 日,字节跳动发布《关于“实习生破坏大模型训练”的事实澄清》:近期有媒体称“字节跳动大模型训练被实习生攻击”,经公司内部核实,确有商业化技术团队实习生发生严重违纪行为,该实习生已被辞退。
02
起诉前实习生,索赔800万…
先来探探网友怎么说…
03
且听南方周末记者详实报道…
11月27日,南都记者获悉,字节跳动起诉前实习生田某某篡改代码攻击公司内部模型训练一案,已获北京市海淀区人民法院正式受理,案由为侵权责任纠纷。字节跳动请求法院,判令田某某赔偿公司侵权损失800万元及合理支出2万元,并公开赔礼道歉。
据南都记者了解,2024年10月,有媒体称“字节大模型训练任务被实习生攻击”,并有网传信息称“涉及8000多卡、损失上千万美元”。后字节跳动通过官方账号发布事实澄清,称确有实习生发生严重违纪,涉事实习生已于2024年8月被公司辞退。
11月5日,字节跳动内部发布的年内第四份《企业纪律与职业道德委员会通报》进一步披露了这起事件的相关细节。通报指出,2024年6月至7月,集团商业产品与技术部门前实习员工田某某,因对团队资源分配不满,通过编写、篡改代码等形式恶意攻击团队研究项目的模型训练任务,造成资源损耗。公司已与其解除实习协议,同步阳光诚信联盟及企业反舞弊联盟,并同步至其就读学校处理。
公开信息显示,田某某本科毕业于北京航空航天大学软件学院,研究生就读于北京大学,研究兴趣为深度学习的优化与算法。自2019年起,他在商汤和字节跳动实习研究,具体包括超参数优化、强化学习算法、自监督的新型算法。
为何选择在此时发起诉讼?
据字节跳动内部人士介绍,由于田某某为在读博士,公司将其辞退后首先交由校方处理。但在事件处理期间,田某某多次对外否认,称攻击模型训练任务的不是自己,而是别的实习生。考虑到田某某完全没有意识到错误,且涉事行为已触犯公司安全红线,公司最终决定向法院起诉,以表明公司严肃态度、杜绝类似事件再次发生。
如何看待这一索赔金额?上海大邦律师事务所高级合伙人游云庭告诉南都记者,索赔金额的高低,关键在于其是否合理。如果字节跳动能够提供证据,证明对方故意篡改代码导致相应损失,那么即使索赔800万,也不能视为过高。
他认为,“索赔金额可能只是覆盖了直接损失,例如浪费的算力和电力成本;而间接损失,如因人工智能训练未达预期而错失的业务机会、人力成本的浪费等,可能并未包含在内。”
据游云庭分析,如果田某某是作为在校学生去实习,他与字节跳动之间的法律关系可能是劳务关系或者非劳动关系的其他民事关系。在这种情况下,如果田某某故意破坏了人工智能的训练过程,这可能构成对劳务合同或实习合同的违约。
游云庭还提到,如果此事确实造成巨大损失,田某某涉嫌毁坏财物罪或者破坏生产经营罪,那么作为被害人的字节跳动可以追究实习员工刑事责任。
04
如何给年轻人上好职场“第一课”
当前的高校教育在学生的职业道德和法律意识培养方面还存在不足。很多学生在校期间,虽然学到了丰富的专业知识,但对于职场规则、职业道德和法律意识却知之甚少。这导致他们在进入职场后,往往难以适应和融入,甚至可能做出一些违背职业道德和违反法律的行为。
实习生作为职场的新鲜血液,带着满腔热情和对未来的憧憬步入社会的大门。然而,近日某大型互联网企业起诉前实习生篡改代码、索赔800万元,提醒着每一个即将踏入或已经身处其中的年轻人:职场不仅是展现才华的地方,更是学习如何成为负责任成年人的重要场所。
田某某之错:职业道德与法律意识的双重缺失
据报道,田某某作为一位在读博士,进入某“大厂”实习,却因对团队资源分配的不满,篡改代码、攻击公司内部大模型训练。虽然这个模型当时只是在训练阶段,没有上线,没有对实际的业务产生影响,但是也浪费了公司大量的算力和人力。
本应怀揣着对技术的热爱与敬畏,在实习岗位上展现自己的才华,尤其是进入到大厂实习,其机会也颇为难得。然而,他却因为私怨攻击公司内部模型训练,不仅严重违背了职业道德,也损害了公司的利益和声誉。
同时,田某某的法律意识薄弱,他这一行为可能已触犯刑法中的破坏计算机信息系统罪。破坏计算机信息系统罪,是指违反国家规定,对计算机信息系统功能进行删除、修改、增加、干扰,造成计算机信息系统不能正常运行,对计算机信息系统功能进行删除、修改、增加、干扰,造成计算机信息系统不能正常运行,对计算机信息系统中存储、处理或者传输的数据和应用程序进行删除、修改、增加的操作,或者故意制作、传播计算机病毒等破坏性程序,影响计算机系统的正常运行,后果严重的行为。
就此,实习企业当时与其解除实习协议,同步阳光诚信联盟及企业反舞弊联盟,并同步至其就读学校处理,这一处理结果已经算轻的了。
更为讽刺的是,在企业处理后,田某某并未选择正视自己的错误,而是选择了否认和“喊冤”。这种行为不仅无助于问题的解决,反而进一步损害了企业的名誉和利益。如果田某某认为企业的处理不公,他完全可以通过正当途径来维护自己的权益,比如向学校申诉或起诉企业。然而,他选择了最不明智的一条路——逃避和否认,这说明,田某某缺乏责任感和诚信。
田某某的行为给企业带来了不必要的资源消耗和技术损失,因此企业有权提出经济赔偿要求。同时,要求公开赔礼道歉也是为了恢复公司名誉,防止类似事件再次发生。
面对“一张白纸”的实习生,学校与企业应如何“补课”
其实,实习生因过失行为,给自身和企业惹出大麻烦的案例不止一起。显然,实习生的“痛”,在于他们往往缺乏足够的经验和判断力,难以应对职场中的复杂情况。尤其是在一些关键岗位上,实习生的一个小小失误,都可能给企业带来无法挽回的损失。
面对实习生在职场中的种种“错”与“痛”,这责任不能简单地归咎于实习生自己。学校和企业作为实习生职业成长的两大关键支柱,同样需要承担起相应的责任,给予实习生必要的帮助与指导,以避免这些“错”与“痛”的发生。
从学校教育的角度来看,当前的高校教育在学生的职业道德和法律意识培养方面还存在不足。很多学生在校期间,虽然学到了丰富的专业知识,但对于职场规则、职业道德和法律意识却知之甚少。这导致他们在进入职场后,往往难以适应和融入,甚至可能做出一些违背职业道德和违反法律的行为。
因此,学校应加强实习生的职业道德和法律意识教育。通过开设相关课程、举办讲座等方式,让学生在校期间就能对职场规则、职业道德和法律意识多加了解。
企业也应对实习生给予足够的重视和关注。尤其是互联网科技公司、金融公司等,哪怕是一个实习生,也可能接触到类似于大模型训练、金融数据研究等重要业务,一旦“出错”就易酿成大祸。
近年来,不少大企业对实习生的招聘数量持续增加。比如,今年3月,某互联网大厂启动了2024年的实习生招聘,宣布开放超过5000个暑期实习生岗位,其中,技术类岗位占比最多,占据了超过六成的比例,包括后台开发、前端开发、客户端开发、机器学习等多个领域。这些岗位对企业而言,意味着技术实力的支撑、业务逻辑的保障、用户体验的优化以及智能化转型的推动,不可谓不重要。企业招聘如此多实习生,也意在培养及挖掘有潜质的梯队人才。
一方面,企业对实习生需求量在增加,另一方面,企业也要加强对实行生的培训和管理,不能将实习生等同于“招之即用”的成熟员工。无论是本科生还是研究生,他们的身份还是学生,缺乏足够的职场经验。在众多大型企业,往往会对新进员工进行岗前培训。那么,实习生的岗前培训,尤其是职业道德、安全意识和团队协作等方面的培训,同样也不能少。通过系统的培训和教育,让实习生在进入岗位前就能对企业文化、岗位职责有清晰的认识。
此外,企业还应建立完善的导师制度。对于一些关键岗位上的实习生,企业应安排经验丰富的正式员工作为他们的导师,进行一对一的指导和帮助。导师不仅要关注实习生的业务能力提升,还要关注他们的职业道德和法律意识培养。通过导师的言传身教和悉心指导,让实习生在职场中快速成长,避免踩到企业“红线”。
实习博士生攻击大厂大模型训练的行为给企业带来了不小的损失和麻烦,但这也为企业提供了一个反思和改进的机会。企业可以通过这次事件,进一步加强对实习生的管理和培训,完善内部的安全机制和风险防范体系。同时,企业也可以借此机会向包括实习生在内的全体员工传递一个明确的信号:任何违背职业道德和违反法律的行为都将受到严厉的制裁和惩罚。
实习生作为职场的新人,他们的每一步成长都离不开学校和企业的共同关注和培养。面对实习生在职场中的种种“错”与“痛”,不应一味地指责和批评,学校和企业须加强实习生的职业道德培训和法律意识教育。如此,每一位实习生都能在开启职场生涯之初少走弯路,更加稳健地迈向成功。
*免责声明:本文由新浪科技、微博、南方都市报记者李玲、黄莉玲、杨柳、楚天原创。版权为南方周末和相关著作权人所有。文章内容系作者个人观点,路科验证转载仅为了传达一种不同的观点,不代表路科验证对该观点赞同或支持,如果有任何异议,欢迎联系路科验证。