首页
时事
民生
政务
教育
文化
科技
财富
体娱
健康
情感
更多
旅行
百科
职场
楼市
企业
乐活
学术
汽车
时尚
创业
美食
幽默
美体
文摘
字节跳动大模型训练被实习生攻击,涉事者已被辞退
时事
2024-10-19 08:05
湖北
10月18日,多个微信群流传一则消息:“某头部大厂的大模型训练被实习生入侵,注入了破坏代码,导致其训练成果不可靠,可能需要重新训练。据称遭到入侵的代码注入了8000多张卡,带来的损失可能超过千万美元。”
界面新闻从知情人士处获悉,该头部大厂为字节跳动。此事发生在今年6月,起因是某高校的博士在字节跳动商业化技术团队实习,因对团队资源分配不满,使用攻击代码破坏团队的模型训练任务。
界面新闻向字节跳动求方面证此事,截至目前,官方未进行回应。
图源:VCG
传闻显示,该田姓实习生利用了HF(huggingface)的漏洞,在公司的共享模型里写入破坏代码,导致模型的训练效果忽高忽低,无法产生预期的训练效果,而且AML团队无法核查原因。但传闻曝出之后,该实习生还在某微信群里辟谣称,自己发完论文后就从字节跳动离职,这个当口有另一个人钻漏洞改模型代码,把锅扣到自己头上。
界面新闻从知情人士处了解到,字节跳动内部已经调查明确此事为田姓实习生所为。目前,该实习生已被辞退,字节跳动同时把此事同步给行业联盟和该实习生所在的给学校。但这名实习生被辞退后到处“辟谣”甩锅,称是其他人所为。
但该实习生攻击的并不是豆包大模型,而是商业化技术团队的模型训练任务,影响了该技术团队的一些业务进展,但整体对公司造成的损失并没有传闻中的超过千万美元那么大。
一位技术安全专家告诉界面新闻,HF漏洞产生肯定是单一性集中训练,此事暴露了字节跳动技术训练存在安全管理问题。公司既没做权限隔离,也没有做好共用代码的审计。正常情况下,每次大的代码变动必须做审计,无论谁做操作都有痕迹记录,一个人想动代码是不可能的。
上述技术安全专家表示,目前行业通用的做法是做三级隔离导向性部署,每一级只有镜像,每次先扫描。调用按次算、必须密钥。每一级完成后,才能进入下一级,而上一级自动删除,进行分级训练。
来源:界面新闻
微信编辑:伍斯琪
http://mp.weixin.qq.com/s?__biz=MzA4MzI4MjExMA==&mid=2652417126&idx=3&sn=a9d8f44f1cd0d27abeb2f373a02c3839
九派新闻
只传递有价值的资讯。商务合作18694040076
最新文章
河北唐山一煤矿冒顶事故已有2人获救
女子举报干部婚内出轨自己被当“第四者”?厦门官方通报
吉林一机关办公楼倒塌 ,未造成人员伤亡,险情已排除
昼夜温差普遍超10℃,中东部大部地区将陆续升温
国内航司一航班疑似出现着陆事故
热搜第一!复婚是否可以再休婚假?官方回复
江西张某某拒服兵役,受7项惩戒!
青岛发生一起混凝土车与多车相撞事故,官方通报
朝向俄派军?俄外交部:系炒作,俄朝军事合作符合国际法准则
马斯克对“摇摆州”选民搞百万美元“大抽奖”,美司法部:可能违法
吉林一机关办公楼倒塌 ,知情人:系闲置,公安已介入
土耳其恐袭事件已导致3死5伤
升级“原生鸿蒙”无法使用微信?客服回应:需蹲抢名额
疑似受伤野猪闯入小区,物业抓捕未果提醒居民注意防范
土耳其发生恐怖袭击
姚海军被查,曾策划出版《三体》
“锦绣长江”非遗展示活动走进吉庆街,“万里茶道的故事”非遗项目首次亮相
“成都到深圳”顺风车仅1分钟?60余名司机涉诈骗被抓
美媒:比尔·盖茨捐款5000万美元助哈里斯竞选
对话“烧伤妈妈”丈夫:凑够手术费后已关闭捐款渠道,以后靠自己
山取颜料师研修班学费高达12900元,客服:忙不过来,暂停招生
退休教授徒步坠崖身亡,救援队发声
吃“甜杆”成吃播流量新密码,《博物》提醒:“红芯”不能吃
有人深夜“飙车炸街”!交管部门出手“不惯着”
打假网红“吴迪”博主被指敲诈后已报案,北京12345:将核实
六万年一遇的彗星即将远去,这8个问题可能是人类必须知道的
麦当劳中国紧急回应
外交部:大众公司一高管因吸毒被中国公安机关遣送出境
北京高考不再考《红楼梦》?官方:不实
工作人员在大气监测系统下洒水糊弄仪器?兰州西固官方回应
擅入哀牢山捕猎野生动物,9人被提起公诉
有人离岗15年照常办理退休,专家:“停薪留职”或为缓解企业经营困境
洗车店因门前有摊水被开《整改通知单》?城管中队回应
女子废品站买下已故女科学家手稿捐给档案馆,回应:很重视
2026年起,北京高考不再考《红楼梦》?
“东北雨X”系列账号名称被初始化,平台回应
直播间10万人,可能都是“真人水军”
台湾高雄一旅馆发生火灾致1死3伤
山取发长文回应“摆拍”“被要求返还矿石”等争议
事涉50.41亿元!万达集团,突传消息
腾讯推出“零工市场”功能,上微信可找“附近的工作”
引发美国大肠杆菌感染事故,麦当劳回应:可能跟洋葱有关
官方回应“微信内测可查找单删好友功能”
上海出发高铁突然紧急制动!警方:女子邱某被行拘
山西吕梁一村主任开挖机撞倒村民?官方发布情况说明
海南槟榔收购价上涨至历史高位,收购商:近期有回落趋势
乌干达一油罐车翻车爆炸,致11人死亡
以总理住宅遭袭受损照片获准发布
中国一男子在马尔代夫浮潜溺亡,女友:他想穿救生衣被老板拒绝
四川广元通报“孩子小区内坠井,爷爷施救身亡”
分类
时事
民生
政务
教育
文化
科技
财富
体娱
健康
情感
旅行
百科
职场
楼市
企业
乐活
学术
汽车
时尚
创业
美食
幽默
美体
文摘
原创标签
时事
社会
财经
军事
教育
体育
科技
汽车
科学
房产
搞笑
综艺
明星
音乐
动漫
游戏
时尚
健康
旅游
美食
生活
摄影
宠物
职场
育儿
情感
小说
曲艺
文化
历史
三农
文学
娱乐
电影
视频
图片
新闻
宗教
电视剧
纪录片
广告创意
壁纸头像
心灵鸡汤
星座命理
教育培训
艺术文化
金融财经
健康医疗
美妆时尚
餐饮美食
母婴育儿
社会新闻
工业农业
时事政治
星座占卜
幽默笑话
独立短篇
连载作品
文化历史
科技互联网
发布位置
广东
北京
山东
江苏
河南
浙江
山西
福建
河北
上海
四川
陕西
湖南
安徽
湖北
内蒙古
江西
云南
广西
甘肃
辽宁
黑龙江
贵州
新疆
重庆
吉林
天津
海南
青海
宁夏
西藏
香港
澳门
台湾
美国
加拿大
澳大利亚
日本
新加坡
英国
西班牙
新西兰
韩国
泰国
法国
德国
意大利
缅甸
菲律宾
马来西亚
越南
荷兰
柬埔寨
俄罗斯
巴西
智利
卢森堡
芬兰
瑞典
比利时
瑞士
土耳其
斐济
挪威
朝鲜
尼日利亚
阿根廷
匈牙利
爱尔兰
印度
老挝
葡萄牙
乌克兰
印度尼西亚
哈萨克斯坦
塔吉克斯坦
希腊
南非
蒙古
奥地利
肯尼亚
加纳
丹麦
津巴布韦
埃及
坦桑尼亚
捷克
阿联酋
安哥拉