首页时事民生政务教育文化科技财富体娱健康情感

旅行百科职场楼市企业乐活学术汽车时尚创业美食幽默美体文摘

字节要求攻击大模型的实习生赔偿800万。。。

科技 2024-11-29 12:49 美国

你好，我是郭震！

不知道大家这几天听说AI圈发生的一件事没有，就是字节起诉实习生篡改代码，并要求这位实习生赔偿800万，并公开道歉：

目前此案已由法院正式受理：

800万的赔偿，别说对于一个还未毕业的实习生，就是工作10年的老人也未必一下能拿得出来。

那么为啥字节终究还是没忍住这口气，还是要通过正规渠道，起诉这位实习生呢？

先来看看事情的经过，2024年10月，一则字节大模型在训练中被实习生攻击的言论，被引发广泛关注，传言称涉及 N多显卡，损失达到千万美刀：

很快字节发声，说确有此事，但事实被夸大了，应该说的就是损失千万美元应该不至于这么多：

这位实习生田某什么来头？

根据公司核实，田某没有AI Lab实习经历：

但田某却能通过篡改代码，成功攻击到大模型。虽然不是AI Lab的，但是就是做到了。

看来攻击大模型这件事，难度并没有想象的那么大。事实是如此吗？

答案是 Yes

通过修改代码攻击大模型，早在2021年就有研究者在计算机安全顶会USENIX发表paper，提出了AI系统存在代码修改被攻击的风险。

这种攻击的专业术语叫做 Blind backdoor attack

只需要修改少量的代码，就能达到极高的攻击成功率。具体的方法我就不在这里展开了，感兴趣的可以去查下，论文如下截图所示：

AI技术正在快速发展，但AI的安全风险有时却不被重视，导致了内部人员很容易就能攻击到AI系统的问题。

这种问题带来的后果还是比较严重的，否则字节也不会没忍住这口气，起诉这位实习生。损失不仅是看得到的金钱损失，还有训练时间的耽搁，工期的延误，商业拼的是技术，拼的也是时间。

因为AI系统安全防护的滞后，内部人员往往可以找到走后门的方法，去迫害AI系统，有时这也是不可避免的。

既然技术手段无法100%防护到，当出现了这样的情况后，严厉的处理，并通过法律和对于个人而言的“巨额”索赔，未尝不是一种好方法。能给后来人一种很好的警示，以防止此类事件再次发生。

总之，AI是一把双刃剑。

对AI感兴趣的，可以去「AI免费学习网」，访问地址如下，160门相关教程，算是比较全面了，而且还免费：

https://zglg.work

我还写了一个40+页的《普通人学AI》.PDF，只需在下面我的公众号回复：AI，即可免费领取：

为了方便学习，我把学习入口也直接放到下面的「阅读原文」那里了，希望这些教程和资料，能帮助到你！

如果觉得对你有用，可以点赞、转发和在看。谢谢你看我的文章，我们下篇再见。

郭震，工作8年后到美读AI博士，努力分享一些最新且有料的AI。

最新文章

自己电脑搭建AI大模型详细教程，支持通义千问、Llama3、接口调用等。

彻底爆了！阿里再次拿下第一！

腾讯版Sora开源，大模型继续狂飙。

天工AI彩页编辑器，让我体验了一把0帧起手

2024年中国AI初创公司，前30强榜单发布。

字节再送神助攻，大模型继续狂飙。

2024年国产大模型最强前10榜单发布。

团队准备解散了。

被字节起诉的田某，拿下今年AI最佳论文奖，戏剧拉满！附论文分析。。。

2024年值得去的50家互联网公司名单。。。

双非计算机硕士，投了109份简历，目前2个offer。。。

字节要求攻击大模型的实习生赔偿800万。。。

最强代码生成大模型前10榜单，国产占据2席。。。

大模型算法岗工资都是4开头了吗！。。。

国内12家主流大模型，谁是地表最强？亲测后发现是它！。。。

985计算机硕士，拿了10个offer。。。

字节2024年不同岗位的薪资表，差别蛮大。。。

终于可以这样在线刷题、在线编程了，好用到爆！。。。

文字转图表，这个AI工具秒杀PPT。。。

字节不同职级薪资待遇一览表。。。

他偷瞄的AI神器，竟是百度网盘的隐藏功能。。。

AI“底裤“被扒，百度文库上榜。。。

值得去的16家IT公司及待遇（西安篇）。。。

现在大专生年薪都35万了吗！。。。

飞行员薪资曝光，程序员看完后傻眼了。。。

值得去的20家国企名单（北京篇）。。。

值得去的15家IT公司及待遇（苏州篇）。。。

爆了！这个AI 应用开发。。。

值得去的25家IT公司及薪资（成都篇）。。。

值得去的20家央国企名单。。。

清华硕士8面字节，最后被拒。。。

爆了！阿里再次第一。。。

快手不同职级薪资待遇一览表。。。

程序员炒股亏了48万。。。

比亚迪在越南员工的薪资曝光。。。

值得去的20家IT公司及薪资（杭州篇）。。。

他19天副业收入过千。。。

拼多多不同职级薪资待遇一览表。。。

80w起！零成本快速入门大模型指南

来了！GPT4.0接入个人微信！！

全球顶尖AI人工智能大集合：ChatGPT、Midjourney、Suno、Luma等等

2024年民企前35强榜单一览表。。。

美团不同职级薪资待遇一览表。。。

纽约街头偶遇马云。。。

值得去的20家IT公司及薪资待遇（广州篇）

一条短视频赚了2154元（附教程）。。。

华为不同职级薪资待遇一览表。。。

值得去的30家IT公司（深圳篇）。。。

哇，OpenAI又一重磅功能来袭。。。

百度不同职级薪资一览表

分类

原创标签

时事社会财经军事教育体育科技汽车科学房产搞笑综艺明星音乐动漫游戏时尚健康旅游美食生活摄影宠物职场育儿情感小说曲艺文化历史三农文学娱乐电影视频图片新闻宗教电视剧纪录片广告创意壁纸头像心灵鸡汤星座命理教育培训艺术文化金融财经健康医疗美妆时尚餐饮美食母婴育儿社会新闻工业农业时事政治星座占卜幽默笑话独立短篇连载作品文化历史科技互联网

发布位置

广东北京山东江苏河南浙江山西福建河北上海四川陕西湖南安徽湖北内蒙古江西云南广西甘肃辽宁黑龙江贵州新疆重庆吉林天津海南青海宁夏西藏香港澳门台湾美国加拿大澳大利亚日本新加坡英国西班牙新西兰韩国泰国法国德国意大利缅甸菲律宾马来西亚越南荷兰柬埔寨俄罗斯巴西智利卢森堡芬兰瑞典比利时瑞士土耳其斐济挪威朝鲜尼日利亚阿根廷匈牙利爱尔兰印度老挝葡萄牙乌克兰印度尼西亚哈萨克斯坦塔吉克斯坦希腊南非蒙古奥地利肯尼亚加纳丹麦津巴布韦埃及坦桑尼亚捷克阿联酋安哥拉