首页 时事 民生 政务 教育 文化 科技 财富 体娱 健康 情感
更多
旅行 百科 职场 楼市 企业 乐活 学术 汽车 时尚 创业 美食 幽默 美体 文摘

全部封了！微信出手整治“AI明星”

科技   2024-12-16 17:19   北京  
12月15日，腾讯官方平台“微信珊瑚安全”发布公告：
近期有媒体报道网络存在利用AI技术仿冒名人进行不当营销的现象。结合用户举报、日常巡查等线索，微信从速从严打击了一批利用AI仿冒知名人士进行不当营销、恶意博取流量的违规行为，并针对相关情况开展专项治理。
截至目前，累计处置内容532条，关闭账号209个。典型案例如下：

下一步，微信将持续对“利用AI仿冒知名人士进行营销宣传”等违规行为加大打击力度，进一步提升技术治理能力和水平，维护良好生态。同时，平台也倡导广大用户自觉遵守法律法规与平台规则。针对“利用AI合成技术生成违规内容”的行为，平台欢迎广大网友提供更多线索，共同构建清朗有序的网络环境。
张文宏医生回应被AI带货
此前，据央视财经报道，有网友反映：家中老人在网络卖货视频中看到张文宏医生在卖一种蛋白类的产品，老人信以为真，已经开始下单了。
经核实，相关视频是利用AI技术合成的，并非张文宏医生本人。目前，该账号“般画234”已搜索不到。

对此，张文宏医生表示，“这样的卖货账号不止一个，且一直在变，我多次向平台投诉但屡禁不绝。很多不明真相的老百姓，特别是有些对AI不是很熟悉的、年纪较大的市民，就很容易相信。”
多位知名人士曾遭遇“AI营销”
随着AI合成技术愈发成熟且已被频繁应用在短视频制作中，AI合成冒充名人的骗局愈来愈频发。
今年11月，江西一位65岁老人到银行办理业务，声称要贷款200万元给男朋友“靳东”拍戏。经调查发现，老人手机里的“靳东”出自AI合成的视频。

今年10月，老牌港星黄百鸣通过社交媒体郑重声明，有人盗用其过去影片，利用AI替换声音，代言一个不知名的药膏品牌。

律师胡雪表示，这种行为是显而易见的违法和侵权，侵犯了受害人的肖像、声音、知情权等诸多权利。受害人在维权时除了向公安报警，也可向网信部门举报。
国家网信办已出手
今年9月，国家网信办发布了《人工智能生成合成内容标识办法（征求意见稿）》，要求从视频制作和发布的源头做好信息管理。
该办法明确提出两种人工智能生成合成内容标识的种类，即“显式标识”与“隐式标识”，还明确了两类标识所应当适用的场景，将《深度合成规定》第十七条所提出的“显著标识”与“显式标识”建立了直接的对应关系。此外，根据不同人工智能生成合成内容的载体与形式（如文本、音频、图片等），该办法还罗列与说明了部署各类显式标识的部署位置和隐式标识所应当包含的信息要素。
金杜律师事务所宁宣凤表示，该办法的出台标志着中国在人工智能领域规范管理方面迈出了重要一步。伴随在生成合成的内容中添加显式或隐式标识举措的落地，互联网信息内容的透明度将显著提升，用户可以在此基础上直观识别内容是否由人工智能生成，有助于用户免受虚假内容的负面影响。
据了解，该办法仍然逐步完善的过程中。随着《人工智能生成合成内容标识办法》正式落地，将为社会公众带来一个更加健康、透明和负责任的人工智能应用环境。
综合微信珊瑚安全、中国新闻社、央视财经、齐鲁晚报、重庆日报
来源：重庆之声

-END-
欢迎关注我们~
网络安全和信息化
《网络安全和信息化》杂志官方所属，网络安全人员与IT运维人员的专业管理类经验、知识、资料，帮助用户提高网络安全能力建设和IT基础设施运营水平，提升IT管理人员工作能力。
 最新文章
第二批汽车数据处理4项安全要求检测情况通报发布
四问+一图，读懂《关于开展万兆光网试点工作的通知》
安全跟我学｜事关个人信息，这些你可以拒绝！
Gartner：目前仅8%的中国企业将生成式人工智能部署在生产环境中
重点防范境外恶意网址和恶意IP（续三）
三部门印发《国家数据基础设施建设指引》
国家网信办就《个人信息出境个人信息保护认证办法（征求意见稿）》公开征求意见
专家解读｜构建个人信息出境个人信息保护认证制度 保障个人信息跨境安全有序流动
专家解读｜推动个人信息出境个人信息保护认证制度落地 促进个人信息高效便利安全跨境流动
一图读懂｜《网络数据安全管理条例》自2025年1月1日起施行
《网络数据安全管理条例》解读二：核心规则设计的变化与延续（上）
《网络数据安全管理条例》解读三：核心规则设计的变化与延续（下）
网信部门严厉打击整治网络水军问题
《网络安全和信息化》杂志2025年第1期 目录
收到这类短信，速删！
2024年1—11月我国软件业务收入122903亿元 同比增长10.7%
22款APP及SDK存在侵害用户权益行为被通报
赛迪科创Pre独角兽（2024）发布
19项密码行业标准发布，自2025年7月1日起实施
六部门印发《关于促进数据产业高质量发展的指导意见》
数据领域常用名词解释（第一批）
《网络数据安全管理条例》解读一：条例出台的必要性与重要性
小型语言模型：AI领域的新热点
国家金融监督管理总局发布《银行保险机构数据安全管理办法》
国家金融监督管理总局有关司局负责人就《银行保险机构数据安全管理办法》答记者问
“搬运”已公开的个人信息，构成侵权吗？
五部门印发《关于促进企业数据资源开发利用的意见》
2024“鼎信杯”信息技术发展论坛在京成功举行
数据安全保护不容忽视！浙江某软件科技公司被公安机关行政处罚
五问+一图，读懂《制造业企业数字化转型实施指南》
大数据环境下数据要素隐私保护研究
构建数据保护的知识产权规则
停个车，个人信息怎么就泄露了？
起底美国网攻窃密的不法行径
近期多发！多名“抖音”网民中招！
我国数字经济核心产业企业总量突破450万家
2025年我国网络安全发展形势展望
筑牢数字安全防线 Fortinet防火墙到SASE的安全网络变革
警惕｜“银狐”木马病毒再次出现新变种并更新传播手法
微信紧急提醒：警惕社交平台传播木马病毒
《网络安全标准实践指南—— 一键停止收集车外数据指引》发布
《网络安全标准实践指南——生成式人工智能服务安全应急响应指南（征求意见稿）》公开征求意见
《网络安全标准实践指南——移动互联网未成年人模式技术要求（征求意见稿）》公开征求意见
网信部门从严打击网上侵害未成年人合法权益行为
数据要素跨境流动中的网络安全风险与应对策略
促进数据跨境有序流动
AI时代下，医疗领域数据安全问题不容忽视
2024年全球加快推进人工智能监管
全部封了！微信出手整治“AI明星”
@所有人 2024“鼎信杯”信息技术发展论坛报名正式开启！
 分类
时事
民生
政务
教育
文化
科技
财富
体娱
健康
情感
旅行
百科
职场
楼市
企业
乐活
学术
汽车
时尚
创业
美食
幽默
美体
文摘
 原创标签
时事 社会 财经 军事 教育 体育 科技 汽车 科学 房产 搞笑 综艺 明星 音乐 动漫 游戏 时尚 健康 旅游 美食 生活 摄影 宠物 职场 育儿 情感 小说 曲艺 文化 历史 三农 文学 娱乐 电影 视频 图片 新闻 宗教 电视剧 纪录片 广告创意 壁纸头像 心灵鸡汤 星座命理 教育培训 艺术文化 金融财经 健康医疗 美妆时尚 餐饮美食 母婴育儿 社会新闻 工业农业 时事政治 星座占卜 幽默笑话 独立短篇 连载作品 文化历史 科技互联网
 发布位置
广东 北京 山东 江苏 河南 浙江 山西 福建 河北 上海 四川 陕西 湖南 安徽 湖北 内蒙古 江西 云南 广西 甘肃 辽宁 黑龙江 贵州 新疆 重庆 吉林 天津 海南 青海 宁夏 西藏 香港 澳门 台湾 美国 加拿大 澳大利亚 日本 新加坡 英国 西班牙 新西兰 韩国 泰国 法国 德国 意大利 缅甸 菲律宾 马来西亚 越南 荷兰 柬埔寨 俄罗斯 巴西 智利 卢森堡 芬兰 瑞典 比利时 瑞士 土耳其 斐济 挪威 朝鲜 尼日利亚 阿根廷 匈牙利 爱尔兰 印度 老挝 葡萄牙 乌克兰 印度尼西亚 哈萨克斯坦 塔吉克斯坦 希腊 南非 蒙古 奥地利 肯尼亚 加纳 丹麦 津巴布韦 埃及 坦桑尼亚 捷克 阿联酋 安哥拉