首页
时事
民生
政务
教育
文化
科技
财富
体娱
健康
情感
更多
旅行
百科
职场
楼市
企业
乐活
学术
汽车
时尚
创业
美食
幽默
美体
文摘
字节跳动大模型被实习生攻击,损失超千万美元?
时事
2024-10-19 17:07
广东
10月18日,多个微信群流传一则消息:
“某头部大厂的大模型训练被实习生入侵,注入了破坏代码,导致其训练成果不可靠,可能需要重新训练。据称遭到入侵的代码注入了8000多张卡,带来的损失可能超过千万美元。”
网传截图
网传截图
记者从知情人士处获悉,该头部大厂为字节跳动。此事发生在今年6月,
起因是某高校的博士在字节跳动商业化技术团队实习,因对团队资源分配不满,使用攻击代码破坏团队的模型训练任务。
记者向字节跳动求方面证此事,截至目前,官方未进行回应。
传闻显示,该田姓实习生利用了HF(huggingface)的漏洞,在公司的共享模型里写入破坏代码,导致模型的训练效果忽高忽低,无法产生预期的训练效果,而且AML团队无法核查原因。但传闻曝出之后,该实习生还在某微信群里辟谣称,自己发完论文后就从字节跳动离职,这个当口有另一个人钻漏洞改模型代码,把锅扣到自己头上。
记者从知情人士处了解到,
字节跳动内部已经调查明确此事为田姓实习生所为。目前,该实习生已被辞退,字节跳动同时把此事同步给行业联盟和该实习生所在的学校。但这名实习生被辞退后到处“辟谣”甩锅,称是其他人所为。
但该实习生攻击的并不是豆包大模型,而是商业化技术团队的模型训练任务,影响了该技术团队的一些业务进展,但整体对公司造成的损失并没有传闻中的超过千万美元那么大。
一位技术安全专家告诉记者,HF漏洞产生肯定是单一性集中训练,此事暴露了字节跳动技术训练存在安全管理问题。公司既没做权限隔离,也没有做好共用代码的审计。正常情况下,每次大的代码变动必须做审计,无论谁做操作都有痕迹记录,一个人想动代码是不可能的。
上述技术安全专家表示,目前行业通用的做法是做三级隔离导向性部署,每一级只有镜像,每次先扫描。调用按次算、必须密钥。每一级完成后,才能进入下一级,而上一级自动删除,进行分级训练。
推荐阅读
独居女子被陌生男子趴窗偷窥?警方通报
肠粉、潮汕牛肉丸、四川冰粉……广交会美食继续“圈粉”国际客商
下调!多家银行发布通告!
重磅!房地产政策“组合拳”公布
姆巴佩被指控涉嫌强奸!本人最新回应→
更多资讯请关注羊城派APP
来源 | 综合界面新闻、深圳新闻网
编辑 | 舒舒
校对 | 彭继业
审签 | 周乐瑞
实习编辑 | 黄茵宁
http://mp.weixin.qq.com/s?__biz=MzI2NTE0ODIwOQ==&mid=2247632627&idx=2&sn=9136055b39796a69b0ac77c349657eb3
羊城派
羊城派是羊城晚报集团倾力打造的一款基于本地“新闻+服务+社交”移动客户端产品
最新文章
痛心!一乡长制止犯罪时被刺身亡,年仅45岁
山海计划“出海”记
在北海道“看见”广东 电影架起跨文化交流桥梁——山海计划首次走进日本
字节跳动大模型被实习生攻击,损失超千万美元?
“每天摸800遍脖子,感觉被判了无期……”95后姑娘得病崩溃,医生提醒→
独居女子被陌生男子趴窗偷窥?警方通报
肠粉、潮汕牛肉丸、四川冰粉……广交会美食继续“圈粉”国际客商
下调!多家银行发布通告!
重磅!房地产政策“组合拳”公布
姆巴佩被指控涉嫌强奸!本人最新回应→
广州立法:个人非法改装“电鸡”罚款500至5000元
那段激情燃烧的岁月,这些广东人曾经历
吴京胜诉!
48名幼儿感染!官方深夜通报
消息证实!经抢救无效,他于凌晨去世,年仅32岁
2025国考四大变化需关注!广东热门岗位或是这些→
两波冷空气来袭!广东天气即将有变→
2025国考报名时间,定了!
广州荔湾通报“辍学拾荒男孩”事件
岑浩辉高票当选澳门特区第六任行政长官人选
公诉机关:建议对余华英判决死刑!
广东省教育厅提醒:不要点击!
财政部重磅发布!信息量很大!
“95后研究员有4个博士2个博士后22个社会兼职?”深夜通报:暂停聘任关系
编号325136!看,浩瀚星空多了一颗“钟南山星”
时间定了!第136届广交会将于10月15日至11月4日举行
男子用电线抽打两名裸体男孩?警方通报→
雷军,怒了!
美国一飞机坠毁,多人不幸遇难
广州楼市国庆“火”了!网签量居四大城市之首,认购量超9月均值2倍
朝鲜宣布永久切断并封锁与韩国交界的南部国境
初中男生体育课热身运动后死亡,当地通报→
余钢同志任湛江市委书记
中山嘉兴共赴“菊宴”:草木凝露,菊香盈袖|寒露
人人人人返程人人人人!
上交所“加时”5分钟,谁受影响?专家详解→
市场对本轮楼市政策反馈良好!开发商宜平稳出货
欧阳谦已任广州大学党委书记
专家回应奶制品五大流言
未来两天或发生强地磁活动!我国部分地区有望见极光
今起,降价!
国庆假期前四天,广东4A级及以上景区迎客1446.2万人次
突然宣布:撤档!退出!
厉害了!这对姐弟能“武伞”也能“武算盘”|非遗小匠
国庆假期广深楼市热度持续,街坊直呼看楼似“趁墟”
12岁“巧弟”的非遗“巧思”|非遗小匠
看,你的外卖从天而降!这个假期来广州南沙体验“未来交通”
中东局势升级!伊朗对以色列发动大量导弹袭击!146名中国公民撤离黎巴嫩
突然爆发!涨幅惊人!最高超440%!
“成交额比以往翻了两到三倍”!开始爆火,午餐时间仍座无虚席......
分类
时事
民生
政务
教育
文化
科技
财富
体娱
健康
情感
旅行
百科
职场
楼市
企业
乐活
学术
汽车
时尚
创业
美食
幽默
美体
文摘
原创标签
时事
社会
财经
军事
教育
体育
科技
汽车
科学
房产
搞笑
综艺
明星
音乐
动漫
游戏
时尚
健康
旅游
美食
生活
摄影
宠物
职场
育儿
情感
小说
曲艺
文化
历史
三农
文学
娱乐
电影
视频
图片
新闻
宗教
电视剧
纪录片
广告创意
壁纸头像
心灵鸡汤
星座命理
教育培训
艺术文化
金融财经
健康医疗
美妆时尚
餐饮美食
母婴育儿
社会新闻
工业农业
时事政治
星座占卜
幽默笑话
独立短篇
连载作品
文化历史
科技互联网
发布位置
广东
北京
山东
江苏
河南
浙江
山西
福建
河北
上海
四川
陕西
湖南
安徽
湖北
内蒙古
江西
云南
广西
甘肃
辽宁
黑龙江
贵州
新疆
重庆
吉林
天津
海南
青海
宁夏
西藏
香港
澳门
台湾
美国
加拿大
澳大利亚
日本
新加坡
英国
西班牙
新西兰
韩国
泰国
法国
德国
意大利
缅甸
菲律宾
马来西亚
越南
荷兰
柬埔寨
俄罗斯
巴西
智利
卢森堡
芬兰
瑞典
比利时
瑞士
土耳其
斐济
挪威
朝鲜
尼日利亚
阿根廷
匈牙利
爱尔兰
印度
老挝
葡萄牙
乌克兰
印度尼西亚
哈萨克斯坦
塔吉克斯坦
希腊
南非
蒙古
奥地利
肯尼亚
加纳
丹麦
津巴布韦
埃及
坦桑尼亚
捷克
阿联酋
安哥拉