一张外国面孔，说着一口流利的中国话科普知识，这样的视频，你会多看两眼吗？央视记者近日调查发现，这些所谓“外国专家”只是AI生成的虚拟形象，不少人以此造假起号。

自媒体门槛虽低，但打造出一个爆款账号并不容易，于是不少人打起了AI的主意。毕竟，相比于亲力亲为思索创意、编辑文案、拍摄制作，用两三个AI工具“文生图、图生图、图生视频”的操作，省时又省力。借助AI提高创作效率未尝不可，但问题在于，为快速涨粉变现，相当一部分账号炮制虚假内容。异常逼真的虚拟形象、似是而非的胡乱发言，足以令观众“一天上一当，当当不一样”。一旦起号成功，有的账号随即隐藏引流内容，改头换面转型带货；有的顺势打出 “AI 起号实战” 噱头，宣扬“成功案例” 售卖起号课程；还有的将账号明码标价打包售卖，已然形成一条“起号—转型—转卖”的灰产。

平心而论，解决AI造假泛滥，各平台并非“无动于衷”。比如眼下，社交媒体普遍升级了AI内容识别系统，要求AI生成作品“亮明身份”，相当于击中了要害。但“技术对抗技术”的伎俩总是蠢蠢欲动，一些人处心积虑规避平台强制标注机制，有的AI起号从业者，还在网上大肆兜售绕过平台“AI打标”的经验。未标注的AI内容频现屏幕不断提醒，与时俱进升级监测方式，显然还有很多工作要做。

创新与治理，是人工智能发展的一体两面。无论哪一面，都不能慢半拍，尤需快一步。我国《人工智能生成合成内容标识办法》不久前已发布，将于9月1日起正式施行，正是一项制度安排。为完善AI内容监管体系再加码，平台必须有所作为。比如，开发更高效的内容检测工具，结合人工审核，防止AI造假“浑水摸鱼”；健全辟谣机制，及时下架不实炒作内容；针对资讯、娱乐、电商等不同类别的内容，进行更精细的内容管理等等。可以说，人工智能的未来能走多远，很大程度上取决于技术向善的能力、各方治理的精度。凝聚合力，AI才能为社会碰撞出更多智慧火花。

AI时代扑面而来，学会如何与其相处，是必须掌握的本领。其中一条，就是千万不能丢掉独立思考的能力。网上冲浪多留个心眼，对明显违背常识的信息多加思考，对未经证实的“爆料”多点冷静，涵养这样的“免疫力”，是对AI善识善用的基本方法，也是在网络社会生存发展的基础。

图源：视觉中国