12月15日，腾讯官方平台“微信珊瑚安全”公众号发布公告。据悉，微信平台打击了一批利用AI仿冒知名人士进行不当营销、恶意博取流量的违规行为，截至目前，累计处置内容532条，关闭账号209个。

伴随AI技术的飞速发展，互联网上AI虚拟人层出不穷，其中就有不少仿冒名人进行营销、炒作的虚拟形象。根据《2024人工智能安全报告》，2023年基于AI的深度伪造欺诈增长了3000%，仅今年上半年，AI诈骗案案值已超过1.85亿元。

对此，微信披露了一批典型案例，如名称为般***4、阿***834、菠***5829、大***8842等账号均因仿冒知名人士进行营销宣传而被永久封禁。

记者注意到，今年以来，利用AI仿冒名人的事件已出现了许多，引得一批知名人士发声辟谣。例如，10月，小米集团董事长雷军的伪造AI语音包在社交媒体上刷屏，在这些视频里“雷军”锐评了堵车、假期、调休、游戏等热门话题，言辞犀利，甚至还包含不雅谩骂，引发网络关注。对此事件，雷军本人曾在自己个人社交账号的评论区回复了三个愤怒表情，表达态度。

此外，老牌港星黄百鸣也曾在社交媒体发表声明，提及自己被AI伪造用于代言。在声明中他表示，发现有人盗用其过去的影片，并利用人工智能技术替换声音，假借黄百鸣的名义代言一个不知名的药膏品牌，“这种行为纯属欺诈，旨在误导公众并从中取利。”黄百鸣称。

今年9月，国家网信办发布了《人工智能生成合成内容标识办法（征求意见稿）》，要求从视频制作和发布的源头做好信息管理。该办法明确提出两种人工智能生成合成内容标识的种类，即“显式标识”与“隐式标识”，这也意味着，用户能够直观识别内容是否由人工智能生成，有助于免受虚假内容的负面影响。

微信表示，下一步，其将持续对“利用AI仿冒知名人士进行营销宣传”等违规行为增加打击力度，进一步提升技术治理能力和水平。同时，平台倡导广大用户自觉遵守法律法规与平台规则，针对“利用AI合成技术生成违规内容”的行为，平台呼吁广大网友提供更多线索，共同构建清朗有序的网络环境。