近日，多家媒体报道披露，杭州市中级人民法院今年公布了一起典型案例：两名不法分子通过网络收集他人照片，利用AI生成点头、摇头、眨眼等动态视频，再通过篡改相机数据，成功突破购物平台的人脸核验，盗取账户内个人信息。
这起案件之所以让人不安，并不是因为涉案金额巨大，而是它把一条低成本、可复制的攻击链完整摆到了公众面前。过去很多人觉得，密码可以泄露，验证码可能被拦截，但“脸”总不会被偷走。毕竟刷脸时还要眨眼、摇头、张嘴，系统会判断屏幕前是不是活人。可这一次，攻击者并没有真的出现在摄像头前，他们只是让系统“以为”自己在看真人。
根据法院披露的信息，两名被告从网络渠道获取他人手机号、头像照片、身份信息等，再利用AI换脸技术把静态照片处理成仿真活体动态视频。平台要求眨眼，视频里就眨眼；要求摇头，视频里就摇头；要求张嘴，视频里也能配合。随后，他们在手机中植入虚拟相机程序，替换本地相机。当平台调取摄像头进行人脸核验时，屏幕中的画面就被替换成事先生成的合成视频，从而绕过活体检测环节。
破解人脸核验后，他们非法登录近30个购物平台账号，窃取收货地址、购物车信息等隐私数据对外流转，非法获利约3708元；同时又在二手交易平台发布广告，利用同款AI换脸技术制作虚假活体视频，违规认证账号20个，出售牟利2149元，合计非法获利5857元。
案件最终由检察机关提起个人信息保护民事公益诉讼。法院判决两名被告公开赔礼道歉，并支付公益损害赔偿金5857元，该款项将用于个人信息保护、人脸深度合成技术不当应用治理等公益事项。
很多人会问：人脸识别不是已经很成熟了吗？为什么还能被AI视频骗过去？关键在于，部分平台仍主要依赖“动作活体检测”。也就是说，系统通过判断用户是否完成眨眼、摇头、张嘴等动作，来确认屏幕前是不是真人。这套逻辑有一个默认前提：摄像头拍到的画面来自真实场景。可攻击者恰恰绕过了这个前提——他们没有让系统看到假脸，而是让系统看到一个被替换过的摄像头画面。
这就解释了为什么“眨眼摇头”不再绝对安全。AI生成的视频可以按指令做出动作，虚拟相机又可以把视频注入识别链路。于是，原本用来防照片、防录屏的活体检测，被降维打击。江苏仪征此前破获的一起特大案件也显示，犯罪团伙将AI生成的动态人脸视频存储在电脑中，再通过篡改、替换系统摄像头的软件，把实时画面替换成合成视频，从而攻破“刷脸”认证防线。
但这并不意味着所有人脸识别都已失效。高安全等级场景正在向“硬件深度感知+云端多模态”升级。比如3D结构光、双目红外、微表情检测、面部血流信号分析、设备指纹校验等，都能显著提升防御能力。真正容易出问题的，是那些仍只依赖简单动作指令、缺少深层活体检测的中小平台或老旧系统。
更值得警惕的是，这类技术已经不再停留在“黑客高手”的实验室里，而是被黑灰产包装成可购买、可接单的服务。有人负责收集身份证照片和人脸素材，有人负责用AI生成动态视频，有人负责接单打码，有人负责把认证好的账号转卖。福州、长沙等地也出现过类似案件，有人利用AI伪造人脸视频完成支付账户实名认证，协助转移涉诈涉赌资金；也有大学生购买AI人脸伪造视频技术，帮助诈骗团伙重置支付密码并盗刷资金。
这起案件还牵连出另一个现实问题：我们在社交平台随手发布的高清正脸照，可能正在成为别人的素材。很多人觉得，照片只是照片，没有密码、没有验证码，应该不危险。但在AI深度合成技术门槛降低的背景下，一张清晰的正面照片，就可能被用来训练人脸模型，生成眨眼、转头、张嘴等动作视频。尤其当照片背景简单、光线清晰、五官完整时，被滥用的风险更高。
除了盗号，AI换脸还被用于冒用明星、名人形象带货。演员吴越曾公开声讨有人利用AI换脸合成她的视频进行直播带货；温峥嵘也提到自己刷到AI盗播直播间，质问对方后反被拉黑；靳东的形象则曾被用于针对中老年群体的诈骗。这些案例说明，AI换脸不仅威胁普通人隐私，也在侵蚀公众人物的肖像权、声音权益和名誉权。最高法今年发布的涉人工智能纠纷案件意见也明确，未经同意利用AI处理自然人肖像、声音，生成可识别的虚拟数字形象并使用、公开，构成人格权益侵害。
对普通人来说，防护并不需要变成“技术专家”，但需要调整几个习惯。
第一，减少在公开平台发布高清正脸原图，尤其是能清晰识别五官、带有证件信息或生活轨迹的照片。第二，重要账号不要只依赖刷脸登录，尽量开启短信、邮箱、设备锁等二次验证。第三，陌生App索要人脸权限时要谨慎，非必要不授权。第四，遇到视频通话中熟人要求转账、改密码、提供验证码，必须通过电话、语音或线下方式二次核验，不能仅凭视频画面判断身份。第五，发现账号异常登录、实名信息被改、支付密码被重置，应立刻修改密码、冻结账户并报警。
对平台而言，这起案件是一次明确警示。人脸核验不能只图方便，也不能把安全责任完全压在用户身上。平台需要持续升级活体检测能力，增加摄像头环境校验、设备完整性校验、多模态风险识别，并对高风险操作设置更强验证。同时，对低版本App漏洞、异常登录行为、批量认证请求，也应建立更敏感的风控机制。
对监管和司法来说，这起公益诉讼判决同样具有信号意义。它表明，即便非法获利不高，AI伪造人脸、突破平台核验、窃取公民个人信息的行为，也会因侵害不特定多数人的生物信息权益和公共利益而被追责。技术本身没有善恶，但把AI用于冒用身份、攻破系统、盗取信息，就已经越过法律红线。
“AI生成视频突破人脸核验”不是遥远的科幻情节，而是已经发生在普通人账号里的现实风险。我们不必因此彻底否定刷脸，但必须放弃“刷脸绝对安全”的幻觉。密码会泄露，验证码会被骗，脸也可能被合成。真正可靠的防线，从来不是某一个技术动作，而是平台防护、法律追责和个人习惯共同织成的网。
下次再看到视频里那张熟悉的脸，不妨多问一句：这真的是他吗？
文/映知
图/网络