微信珊瑚安全公众号
日前发布
《关于打击利用AI仿冒知名人士
进行营销宣传的公告》
公告称
近期有媒体报道
网络存在利用AI技术
仿冒名人进行不当营销的现象
为守护用户权益
避免消费者上当受骗
结合用户举报、日常巡查等线索
微信从速从严打击了
一批利用AI仿冒知名人士
进行不当营销、恶意博取流量
的违规行为
并针对相关情况开展专项治理
截至目前
累计处置内容532条
关闭账号209个
典型案例如下
下一步，微信将持续对“利用AI仿冒知名人士进行营销宣传”等违规行为增加打击力度，进一步提升技术治理能力和水平，维护良好生态。同时也倡导广大用户自觉遵守法律法规与平台规则。
针对“利用AI合成技术生成违规内容”的行为，平台欢迎广大网友提供更多线索，共同构建清朗有序的网络环境。
这两年，名人被AI已成常态。“假靳东”迷倒一众大妈，“假雷军”辣评世间百态，种种乱象轻则为当事人带来困扰，重则催生诈骗案件。AI造假的人物也突破文娱、商业等领域，甚至波及了政要群体。“假拜登”公然宣布第三次世界大战开始，“假马克龙”直播回答“政府聘用灭霸”，“假岸田文雄”召开线上发布会等案例都曾令世界一片哗然。虽然声讨反思不断，但并未阻止AI造假的步伐，纯粹恶搞还是用以犯罪几乎都在失控状态。
最近，有网友发消息称，“张文宏是不是带货了？”视频中，张文宏在卖一种蛋白棒，家里的老人信以为真，已经开始下单了。
也就是说，今后依靠一部手机，就能轻松合成一个覆盖全身的假视频，迷惑指数直线上升。2024人工智能安全报告显示，2023年基于AI的深度伪造欺诈增长了3000%，若不能有效打击，这个数字必然会继续飙升。
近两年，我国已相继出台《互联网信息服务深度合成管理规定》《生成式人工智能服务管理暂行办法》《人工智能生成合成内容标识办法》等规定，让刚性治理有了更多抓手。当务之急是有法必依、执法必严，广而告之典型案例，提高震慑力度。广大平台更要守土尽责，强化AI标识提示，对越界视频及时下架、违法账号及时封禁。
“有图有视频，就是没有真相”，这将成为信息传播的灾难。如果与AI共存将是未来生活的常态，那么有效治理、打击犯罪必须大幅加码，不能放任AI为所欲为、一骗再骗。
小布送福利
欢迎关注
欢迎关注
湖北发布官方视频号
湖北发布官方视频号
湖北发布编辑部出品 | 转载请注明出处
来源：湖北发布、微信珊瑚安全公众号、北京日报
编辑：周密
