随着人工智能软件普及

“AI换脸”“AI合成照片、视频”等技术

越来越多地出现在网络里

AI造假花样越来越多

一些不法分子将新技术

用于非法的目的

让犯罪手段又有了新方式

本文带您识别

AI换脸诈骗套路

牢记以下防范要点

↓↓↓

案情简介

某地公安网巡发现一犯罪团伙，利用AI换脸技术破解游戏人脸实名验证系统牟利。他们开发专用软件，盗号人员通过AI接口，将自己的视频替换成账号主人的脸，生成虚假换脸视频。登录时上传视频伪装实时画面，骗过验证系统后盗卖高价值装备，作案后还清空电脑数据毁灭证据。为此，公安机关委托北京网神洞鉴科技有限公司司法鉴定所开展相关鉴定工作。

鉴定过程

面对AI犯罪新挑战，司法鉴定专家：

• 首先，通过深度取证复现，恢复嫌疑人操作的图片、视频等文件，还原从造伪视频到盗号全过程；

• 然后，分析涉案工具与痕迹，定位AI模型、软件路径等，关联嫌疑人行为与工具；

• 最后，鉴定核心工具功能，证实“虚拟摄像头”软件用“钩子技术”伪装实时画面骗验证，结合痕迹形成证据闭环。

司法鉴定专家通过专业技术，完整地把犯罪嫌疑人实施犯罪活动关键证据的证据链实现了闭环，从而为司法机关的后续工作提供了关键证据支撑。

公众防范指南

1.切勿随意泄露个人照片、视频等隐私信息，尤其警惕“免费领福利”等诱导性收集行为；

2.账号登录、资金操作等关键环节，若遇人脸识别异常提示，及时核实账号安全；

3.发现账号被盗、财产损失，立即留存证据并报警，配合司法机关调查取证。

法条链接

《中华人民共和国民法典》第一千零一十九条

任何组织或者个人不得以丑化、污损，或者利用信息技术手段伪造等方式侵害他人的肖像权。未经肖像权人同意，不得制作、使用、公开肖像权人的肖像，但是法律另有规定的除外。

未经肖像权人同意，肖像作品权利人不得以发表、复制、发行、出租、展览等方式使用或者公开肖像权人的肖像。

《人工智能生成合成内容标识办法》第三条

人工智能生成合成内容是指利用人工智能技术生成、合成的文本、图片、音频、视频、虚拟场景等信息。

人工智能生成合成内容标识包括显式标识和隐式标识。

显式标识是指在生成合成内容或者交互场景界面中添加的，以文字、声音、图形等方式呈现并可以被用户明显感知到的标识。

隐式标识是指采取技术措施在生成合成内容文件数据中添加的，不易被用户明显感知到的标识。