央视主播带货深海鱼油，你刷到过这样的视频吗？近日，北京市市场监管部门查处了首例利用AI换脸进行虚假广告宣传的案件，引发广泛关注。

从“全红婵带货土鸡蛋”，到张文宏医生售卖蛋白棒，再到张伯礼院士推销美白产品……一段时间以来，“AI换脸”碰瓷名人的现象频发，许多消费者接连上当。随着人工智能技术发展，如今AI换脸不仅效果逼真，技术门槛也大幅降低。只需10秒语音、一段公开视频，分分钟就能克隆出高度逼真的声音与面容。而类似“换脸”软件和免费教程比比皆是，还号称包教包会一站式服务。正是利用换脸技术的低成本，一些不法分子一天可生成上万条内容，通过矩阵账号大肆分发，精准收割中老年群体的钱包。

从媒体调查看，AI仿冒名人的乱象远不止带货。不乏不法分子借此仿冒直播，诱骗粉丝打赏获利，还有的通过换脸技术进行诈骗、窃取隐私等违法犯罪活动。正是基于种种恶劣影响，对于AI换脸乱象，相关当事人没少投诉，平台也出台了识别措施，依然屡禁难绝。何也？从技术面看，各类换脸软件皆是开源性质，“几乎谁都可以用，相当于装个软件”，这也为黑手作恶大开方便之门。短视频内容爆炸性增长，就算发现违法侵权，压根删不过来。此外，AI生成内容易篡改、难溯源，许多侵权案例常因证据不足不了了之，也助长了一些不法分子的嚣张心理。

技术每前进一步，治理就要跟进一步。国家网信办等四部门联合发布的《人工智能生成合成内容标识办法》，已于今年9月1日起施行，其中明确了服务提供者应当对生成合成内容添加显式标识。把住AI生成的标识关，也从源头上让用户能一眼识别相关内容，免得被人牵着鼻子走。此番北京查处首例AI虚假广告案，也为执法破局提供了示范效应。专业机构确认影像为深度伪造，产品备案证明其无医疗功效，直播录屏与口播内容形成误导链条，三者结合构建起“技术鉴定—法律适用—证据闭环”的完整链条，从而让《广告法》首次精准命中AI造假行为，让不法分子付出代价。

截至目前，我国生成式人工智能产品的用户规模已达2.3亿人。AI进化势不可挡，红线底线必须守住。有关部门不断亮剑，平台层面守土尽责，建立健全对AI合成内容的审核监管，方能破解“打地鼠”之困。

图源：央视财经