杭州法院公布AI视频骗过刷脸案，漏洞更像出在摄像头数据上

每次刷脸登录，对着手机点头、摇头、眨眨眼，那几秒钟你在想什么？反正我一直觉得这套动作挺有仪式感，像在给 App 交一份“我是真人”的投名状。

现在这份投名状，有人拿 AI 代写了。杭州市中级人民法院公布了一起案例：两名被告收集他人的手机号、头像照片和身份信息，用 AI 换脸把照片做成点头、摇头、眨眼的动态视频，骗过某购物平台的人脸核验，登录别人的账号，倒卖收货地址和购物车信息，还收钱替人做虚假实名认证，一共赚了 5857 元。9 月 4 日一审当庭宣判。我们 AI主线 的看法是：杭州这起 AI 视频骗过刷脸核验的案件，暴露的是“只验几个动作、又信任手机传来的画面”这套老式流程的漏洞，不等于人脸识别这门技术整体失效。

是 AI 视频太真，还是门没锁？

网上有些解读把这笔账记在 Seedance、可灵这类视频模型头上，说它们连光线打在脸上的样子都能还原，刷脸被攻破是迟早的事。

模型确实在卷。Seedance 2.0 是 2026 年 2 月发布的，6 月 23 日字节又在火山引擎大会上公布了 2.5，官方说单次能生成的视频时长从 15 秒翻到 30 秒。视频越来越能打，这没毛病。

但案情披露的作案工具没这么玄：一个境外的 AI 换脸网站，加一个装在手机里的虚拟相机程序。关键在后一个。平台要调用摄像头的时候，程序把镜头“换”成了提前做好的视频，系统拿到的压根不是镜头拍到的画面。

打个比方：保安靠盯监控屏幕认人，结果有人把屏幕接到了一盘录像带上。这时候保安眼力练得再好，也看不出破绽。安全圈管这种手法叫注入攻击，早就有人在讲，这次是被法院的案例摆到了台面上。

点头眨眼这套，还能信吗？

先说它是干什么的。2D 人脸识别只认脸、不认人，照片和视频都可能蒙混过关，所以平台加了一道活体检测，让你做点头、眨眼这类动作，证明镜头前是个活人。

问题是，AI 现在能根据照片生成符合要求的动作，这些动作就从“证明”变成了“台词”，谁都能背。天翼安全科技的一位高级专家对科技日报说，这说明靠单一动作验证的传统路线遇到了新挑战，但人脸识别没有失效，也不该被当成万无一失的身份证明。

那换成 Face ID 那样的 3D 结构光是不是就稳了？这次被绕过的是 2D 方案，不是 3D 结构光。可攻击者换掉的是数据来源，没在跟算法比谁更像人，所以要补的是整条链路。那位专家给的清单是：设备可信验证、视频流注入检测、生理活体特征分析、多因素认证，再加上业务行为风控。

这路数也不是孤例。此前南方都市报的调查发现，网约车平台上同样的“虚拟相机＋换脸”打法，已经有人当成灰色服务在社交平台上揽客。

规矩管到这一步了吗？

规则这两年没闲着。《人脸识别技术应用安全管理办法》2025 年 6 月 1 日起施行，人脸信息存储量到 10 万人，就要向省级以上网信部门备案。《人工智能生成合成内容标识办法》2025 年 9 月 1 日起施行，生成平台要给内容加显式和隐式标识，任何人不得恶意删除、篡改。

但一份管的是谁在收集和存人脸，一份管的是 AI 内容出厂时有没有“身份证”。对付手机里被调包的那条视频流，它们够不着，得靠平台自己在核验环节补课。核验环节拿到的是被替换的摄像头数据，指望标识帮忙拦人，不太现实。

再看案子本身的处理。两人所得 5857 元，检察机关综合侵权时间短、主动退缴所得、认罪认罚，作出了刑事不起诉决定，随后杭州市人民检察院提起民事公益诉讼，法院判令公开赔礼道歉，并支付与所得相当的公益损害赔偿金。金额不大，但对“受害人很多、损失很分散”的个人信息案子，公益诉讼算是给了一个出口。

做内容的、做产品的，各自怎么掂量

做 AI 视频的朋友，手里的工具和案子里用的是同一类能力，只不过你拿来做分镜、做短片。生成内容要加标识、不能去掉标识，这条线 2025 年 9 月就划好了，踩上去不划算。

做产品的技术负责人，这事更直接。我要是管着一个靠刷脸登录或改绑的产品，会先问三个问题：手机传上来的摄像头数据，我能不能确认来自真镜头；整个流程是不是只靠几个动作定生死；万一刷脸被绕过，后面还有没有第二道关，比如陌生设备登录、异常收货地址这类行为风控。

接下来我会盯两件事。一是大平台会不会把视频流注入检测当成刷脸标配，而不是出了事再打补丁。二是监管会不会针对金融交易、身份认证这类高风险场景，给出分级分类的安全要求，专家提过这个方向，落不落地就看后面了。