12月15日，微信珊瑚安全公众号发布《关于打击利用AI仿冒知名人士进行营销宣传的公告》。
公告称，近期有媒体报道，网络存在利用AI技术仿冒名人进行不当营销的现象。为守护用户权益，避免消费者上当受骗，结合用户举报、日常巡查等线索，微信从速从严打击了一批利用AI仿冒知名人士进行不当营销、恶意博取流量的违规行为，并针对相关情况开展专项治理。截至目前，累计处置内容532条，关闭账号209个。
下一步，微信将持续对“利用AI仿冒知名人士进行营销宣传”等违规行为增加打击力度，进一步提升技术治理能力和水平，维护良好生态。同时也倡导广大用户自觉遵守法律法规与平台规则。
针对“利用AI合成技术生成违规内容”的行为，平台欢迎广大网友提供更多线索，共同构建清朗有序的网络环境。
这两年，名人被AI已成常态。“假靳东”迷倒一众阿姨，“假雷军”辣评世间百态，种种乱象轻则为当事人带来困扰，重则催生诈骗案件。AI造假的人物也突破文娱、商业等领域，甚至波及了政要群体。“假拜登”公然宣布第三次世界大战开始，“假马克龙”直播回答“政府聘用灭霸”，“假岸田文雄”召开线上发布会等案例都曾令世界一片哗然。虽然声讨反思不断，但并未阻止AI造假的步伐，纯粹恶搞还是用以犯罪几乎都在失控状态。
最近，有网友发消息称，“张文宏是不是带货了？”视频中，张文宏在卖一种蛋白棒，家里的老人信以为真，已经开始下单了。
但仔细辨认可以发现，带货视频为AI合成。目前，这段视频已在该账号内不可见，但商品橱窗内显示这款蛋白棒已售出千余单。
AI合成的张文宏带货视频截图。
张文宏医生表示：“这样的卖货账号不止一个，且一直在变，我多次向平台投诉但屡禁不绝。我在发现这个事情后立即投诉过那个AI合成的视频，但他的账号一直在换，我最后也没有精力了。这些假的AI合成信息就像蝗灾一样，一次又一次发生，像漫天飞过来的蝗虫一样害人。”
