首页 时事 民生 政务 教育 文化 科技 财富 体娱 健康 情感
更多
旅行 百科 职场 楼市 企业 乐活 学术 汽车 时尚 创业 美食 幽默 美体 文摘

微软起诉一组织非法入侵其AI服务，绕过安全防护生成有害内容）

学术   2025-01-16 16:22   浙江  

近日，微软声称已对一个组织采取法律行动，因该组织故意开发并使用工具绕过其云 AI 产品的安全护栏。根据该公司去年12月向美国弗吉尼亚东区地方法院提起的诉讼，一群由10名未透露姓名的被告，涉嫌使用窃取的客户凭证和定制软件侵入Azure OpenAI服务，这是微软提供的完全托管服务，由ChatGPT制造商OpenAI的技术提供支持。
在起诉书中，微软指控被告（微软只称其为“Does”，这是一个法定假名）违反了《计算机欺诈和滥用法案》、《数字千年版权法案》和联邦敲诈勒索法，非法访问和使用微软的软件和服务器，目的是“创建攻击性”和“有害和非法内容”。微软没有提供有关所生成滥用内容的具体细节。
该公司正在寻求禁令和“其他公平”救济和损害赔偿。
微软在投诉中表示，它在2024年7月发现，拥有Azure OpenAI服务凭证（特别是API密钥，用于对应用程序或用户进行身份验证的唯一字符串）的客户被用于生成违反该服务可接受使用政策的内容。投诉称，随后，通过调查，微软发现 API 密钥是从付费客户那里窃取的。
微软的诉状中写道：“被告获取用于实施本诉状中所述不当行为的所有 API 密钥的具体方式尚不清楚，但看起来被告已参与了系统性的 API 密钥盗窃模式，使他们能够从多个微软客户那里窃取微软API密钥。”微软指控被告利用窃取的美国客户Azure OpenAI服务API密钥来实施“黑客即服务”计划。根据起诉书，为了实施该计划，被告创建了一个名为de3u的客户端工具，以及用于处理和路由从de3u到微软系统的通信的软件。

微软称，De3u允许用户利用被盗的API密钥，使用DALL-E（Azure OpenAI 服务客户可用的 OpenAI模型之一）生成图像，而无需编写自己的代码。根据投诉De3u还试图阻止Azure OpenAI服务修改用于生成图像的提示，例如，当文本提示包含触发微软内容过滤的单词时，就会发生这种情况。

微软投诉中的 De3u 工具的屏幕截图。  图片来源：微软

据悉，托管在GitHub（微软旗下公司）上的包含de3u项目代码的repo已无法访问。
起诉书写道：“这些功能与被告对Azure OpenAI服务的非法编程API访问相结合，使被告能够逆向工程绕过微软的内容和滥用措施。被告故意在未经授权的情况下访问了受Azure OpenAl服务保护的计算机，并因此造成了损害和损失”。
微软在周五发布的一篇博客文章中表示，法院已授权其查封一个对被告的行动“至关重要”的网站，该网站将使该公司能够收集证据，破译被告所谓的服务如何货币化，并破坏其发现的任何其他技术基础设施。
微软还表示，它已经“采取了对策”，但公司没有具体说明，并且针对其观察到的活动为Azure OpenAI服务“增加了额外的安全缓解措施”。
@ 01微软博客文章
微软数字犯罪部门 (DCU) 正在采取法律行动，以确保我们 AI 服务的安全性和完整性。在弗吉尼亚州东区法院公开的一份投诉中，我们正在采取行动，打击那些故意开发专门用于绕过生成式 AI 服务（包括微软的服务）安全护栏的工具以创建攻击性和有害内容的网络犯罪分子。微软继续不遗余力地增强我们的产品和服务抵御 滥用的能力；然而，网络犯罪分子仍然顽固不化，不断创新他们的工具和技术，以绕过最强大的安全措施。通过这一行动，我们发出了一个明确的信息：我们绝不容忍网络行为者将我们的 AI 技术武器化。
微软的人工智能服务部署了强大的安全措施，包括人工智能模型、平台和应用程序级别的内置安全缓解措施。正如我们今天公布的法庭文件中所指控的那样，微软发现一个外国威胁行为者团体开发了复杂的软件，利用从公共网站上抓取的暴露客户凭证。在此过程中，他们试图识别并非法访问具有某些生成式人工智能服务的帐户，并故意更改这些服务的功能。然后，网络犯罪分子利用这些服务，将访问权限转售给其他恶意行为者，并详细说明如何使用这些自定义工具生成有害和非法内容。在发现后，微软撤销了网络犯罪分子的访问权限，制定了对策，并增强了其保障措施，以进一步阻止此类恶意活动。
这项活动直接违反了美国法律以及我们服务的可接受使用政策和行为准则。今天未密封的法庭文件是针对这些非法工具和服务创建者的持续调查的一部分。具体而言，法院命令使我们能够查封一个对犯罪行动至关重要的网站，这将使我们能够收集有关这些行动背后个人的关键证据，破译这些服务如何货币化，并破坏我们发现的其他技术基础设施。与此同时，我们针对我们观察到的活动增加了额外的安全缓解措施，并将根据调查结果继续加强我们的防护措施。   
每天，人们都在利用生成式人工智能工具来增强他们的创造性表达和生产力。不幸的是，正如我们在其他技术的出现中看到的那样，这些工具的好处吸引了那些试图利用和滥用技术和创新来达到恶意目的的不法分子。微软认识到我们在防止工具被滥用和误用方面所发挥的作用，因为我们和该行业的其他公司都在推出新功能。去年，我们承诺继续创新新方法来保护用户安全，并概述了一套全面的方法来打击滥用的人工智能生成内容并保护人民和社区。最近的这次法律行动正是基于这一承诺。    
除了采取法律行动和不断加强我们的安全护栏外，微软还继续采取其他主动措施并与其他公司合作，以应对网络危害，同时倡导制定新法律，为政府当局提供必要的工具，以有效打击滥用人工智能，特别是伤害他人的行为。微软最近发布了一份详尽的报告《保护公众免受滥用人工智能生成内容的侵害》，其中为行业和政府提出了建议，以更好地保护公众，特别是妇女和儿童，免受恶意行为者的侵害。    
近二十年来，微软的 DCU 一直致力于打击和阻止那些试图将消费者和企业所依赖的日常工具武器化的网络犯罪分子。如今，DCU 以这种方法为基础，并正在应用过去网络安全行动中的关键经验来防止生成式人工智能的滥用。微软 将继续尽自己的一份力量，寻找创造性的方式来保护人们的在线安全，透明地报告我们的发现，对那些试图将人工智能技术武器化的人采取法律行动，并与全球公共和私营部门的其他人合作，帮助所有人工智能平台保持安全，免受有害滥用。
@ 02起诉状全文

@转载自丨网络法诉讼圈
网络法实务圈
公司法务人员、法律实务人士、网络法探索者关注的网络法实务平台； 电商法、网络安全法、个人信息保护、数据合规、电子存证、网络诉讼、网络广告合规……关于网络法实务的大本营 在互联网时代，我们一起进化为网络法律人
 最新文章
热播剧涉妆造抄袭争议，律师浅谈影视剧知识产权攻防布局
全文翻译 | 刚上台！特朗普废除了67项拜登行政命令，AIGC相关被废除，看看还保留了哪些？
不当使用音乐，你侵权了吗？
游戏厂商的维权之道——从《盛趣游戏IP维权报告2024》展开
《原神》因抽卡机制不透明被罚2000万美元
搜索网站提供缩略图是否构成侵权？
重磅原创！在不确定性中给自己一个确定性——数据合规 (AI合规) 2025年展望
日本推进人工智能立法兼顾双重性，强化风险对策和监管的同时注重避免对技术进步形成阻碍
关于利用人工智能技术绕过图形类验证机制新型犯罪手法预警通报
网盘信网权争诉的2.0时代：直接侵权之辩
“境外处理个人信息”属于“个人信息出境”吗？
越南个人数据跨境传输规则
“AI大模型语料训练版权挑战”成年度关键词 人工智能带来版权之争→
域外国家网络信息治理制度
《关于完善数据流通安全治理 更好促进数据要素市场化价值化的实施方案》答记者问
“直播送车”法律合规知多少？
微软起诉一组织非法入侵其AI服务，绕过安全防护生成有害内容）
“拍A发B”虚构销量处罚70万+决定书
TikTok数字难民现象！打破常规！——国内外应用跨服聊天，真的可行吗？
工业和信息化部办公厅关于加强互联网数据中心客户数据安全保护的通知
音频分享平台未经授权以API方式向第三方提供筛选后的用户上传音频 法院：构成直接侵权！
聊聊美国历史上第一个人工智能出口管制规则
典型案例 | “陪伴式”直播不正当竞争纠纷案
垦丁代理的小红书平台内容虚假“种草”案入选湖北高院反不正当竞争典型案例
MCN新规讨论
苹果面临15亿英镑司法索赔
靠有偿删帖非法获利200多万元！起底犯罪团伙作案手段
市场监管新举措：整改电商平台“仅退款”规则，服务企业摆脱“内卷式”竞争
国家互联网信息办公室关于《网络信息内容多渠道分发服务机构相关业务活动管理规定（草案稿）》公开征求意见的通知
欧盟委员会因违规数据出境被判向1公民赔偿400欧元
专家评议 |杭州市滨江区人民检察院诉杨某某等网络侵权责任纠纷民事公益诉讼案
奥特曼起诉触手AI，法院认定侵犯信息网络传播权
2025法院版：“微信聊天记录”作为证据的21个法律要点（附：聊天记录删除后如何恢复）
华东政法大学在职研究生 高级法商实务人才(MLPA) 班招生
利用知名游戏的“魔石锻造”设赌局，13名游戏主播获刑！
你的微博回应侵权了吗？
专家评议 | 北京某科技公司等诉淮安市某网络科技公司等不正当竞争纠纷案
专家评议 | 方某、苏某某诉某科技公司音乐作品著作权侵权案
“偷偷搬运”微短剧，难逃著作权侵权责任
TikTok案周五开庭，各方答辩状都说了啥？
购物小票“另类作用”背后深藏黑灰产业，查！
爱奇艺起诉海螺AI版权侵权，指控擅用其素材进行AI模型训练
美国商务部发布2024年度出口管制执法报告
YY语音账号出租期间被封禁，出租人要求承租人赔偿损失，法院如何判？
《网络数据安全管理条例》解读四：新形势下公安机关网络数据安全保护工作定位及着力点
专家解读｜推动个人信息出境个人信息保护认证制度落地 促进个人信息高效便利安全跨境流动
网信部门严厉打击整治网络水军问题
《个人信息出境个人信息保护认证办法》征求意见：自愿性和市场化是关键！
《网络数据安全管理条例》解读三
欢迎李烁律师加入垦丁
 分类
时事
民生
政务
教育
文化
科技
财富
体娱
健康
情感
旅行
百科
职场
楼市
企业
乐活
学术
汽车
时尚
创业
美食
幽默
美体
文摘
 原创标签
时事 社会 财经 军事 教育 体育 科技 汽车 科学 房产 搞笑 综艺 明星 音乐 动漫 游戏 时尚 健康 旅游 美食 生活 摄影 宠物 职场 育儿 情感 小说 曲艺 文化 历史 三农 文学 娱乐 电影 视频 图片 新闻 宗教 电视剧 纪录片 广告创意 壁纸头像 心灵鸡汤 星座命理 教育培训 艺术文化 金融财经 健康医疗 美妆时尚 餐饮美食 母婴育儿 社会新闻 工业农业 时事政治 星座占卜 幽默笑话 独立短篇 连载作品 文化历史 科技互联网
 发布位置
广东 北京 山东 江苏 河南 浙江 山西 福建 河北 上海 四川 陕西 湖南 安徽 湖北 内蒙古 江西 云南 广西 甘肃 辽宁 黑龙江 贵州 新疆 重庆 吉林 天津 海南 青海 宁夏 西藏 香港 澳门 台湾 美国 加拿大 澳大利亚 日本 新加坡 英国 西班牙 新西兰 韩国 泰国 法国 德国 意大利 缅甸 菲律宾 马来西亚 越南 荷兰 柬埔寨 俄罗斯 巴西 智利 卢森堡 芬兰 瑞典 比利时 瑞士 土耳其 斐济 挪威 朝鲜 尼日利亚 阿根廷 匈牙利 爱尔兰 印度 老挝 葡萄牙 乌克兰 印度尼西亚 哈萨克斯坦 塔吉克斯坦 希腊 南非 蒙古 奥地利 肯尼亚 加纳 丹麦 津巴布韦 埃及 坦桑尼亚 捷克 阿联酋 安哥拉