非常严重?字节跳动大模型遭实习生破坏!

科技   2024-10-20 23:57   河南  

点击右上方设置星标(Star)优先获取更多内容~


最近火了一个新闻:字节跳动大模型遭实习生破坏

看证券时报・e公司”报道,确有实习生因对团队资源分配不满,使用攻击代码破坏模型训练,导致AI训练效果波动不定。字节跳动已经对该事件进行了处理,通报了相关诚信联盟和学校。

这位田姓实习生已被辞退,但其在离职后持续甩锅,声称攻击源于他人利用漏洞。

事件回顾与详情

略微了解一下,此次事件发生在今年6月,一位来自高校的田姓博士实习生在字节跳动商业化技术团队实习期间,因不满资源分配,利用HF(huggingface)的漏洞在公司的共享模型中植入破坏代码。这种攻击方式导致团队的模型训练任务出现异常,训练效果时高时低,团队多次尝试定位问题却未能找出原因。直到最近,字节跳动内部调查确定,破坏行为确实由该实习生所为。

传闻称,田姓实习生还在攻击后试图甩锅,辟谣称自己在离职前发完论文后并未参与攻击,反指另一人在其离职后利用漏洞进行破坏。。。

对于网上流传的本次损失 “涉及8000多卡、损失上千万美元”官方回复:严重夸大。

这个大模型遭实习生攻击事件也把业界搞火了,未来企业相信也会加强对实习生的管理、资源分配的公平性,以及内部安全防控措施。

还有一些网友评论实习生被压榨的太狠了等等。在社会上部分企业对实习生确实如此,但对于本次字节的实习生为什么做这件事,未了解详细内容也不多做评价哈。


即兴小索奇
思索的涟漪,突破自我;你的成长,从现在开始
 最新文章