字节大模型遭实习生攻击?官方回应
时事
2024-10-19 16:30
湖北
字节跳动官方今日针对“实习生破坏大模型训练”一事进行澄清回应。全文如下:近期有媒体称“字节跳动大模型训练被实习生攻击”,经公司内部核实,确有商业化技术团队实习生发生严重违纪行为,该实习生已被辞退。但相关报道也存在部分夸大及失实信息,特说明如下:一、涉事实习生恶意干扰商业化技术团队研究项目的模型训练任务,但并不影响商业化的正式项目及线上业务,也不涉及字节跳动大模型等其他业务。二、网传“涉及8000多卡、损失上千万美元”严重夸大。三、经核实,涉事人一直在商业化技术团队实习,并没有AI Lab实习经历。其社交媒体个人简介及部分媒体报道有误。该实习生已在8月被公司辞退。公司也将其行为同步给行业联盟和所在学校,交由校方处理。据悉,近期流传消息称,某高校博士今年6月在字节跳动商业化技术团队实习,因对团队资源分配不满,使用攻击代码破坏团队的模型训练任务。传闻显示,该田姓实习生利用了HF(huggingface)的漏洞,在公司的共享模型里写入破坏代码,导致模型的训练效果忽高忽低,无法产生预期的训练效果,而且AML团队无法核查原因。知情人士称,字节跳动内部已经调查明确此事为田姓实习生所为。目前,该实习生已被辞退,字节跳动同时把此事同步给阳光诚信联盟和企业反舞弊联盟以及该实习生所在的学校。监 制:洪燕
审 核:刘开莫 郭晓勇
编 辑:文莉
来 源:长江云新闻综合界面新闻 青年报