塔斯娱乐资讯网

AI生成视频竟能骗过人脸识别,安全防线还守得住吗?

近日,一条安全通报在技术圈引发了不少讨论:不法分子搜集网络上公开的人脸照片,借助AI生成带有点头、眨眼动作的视频,成功突破了个别购物平台的人脸核验环节。你在社交平台留下的自拍,可能正在成为别人绕过安全验证的“钥匙”。
这件事的技术痛点很直接:人脸识别在过去几年被广泛当作身份核验的“最后一道防线”,从支付到登录、从门禁到政务办理,它承载了太多信任。而当成式AI能够伪造出通过活体检测的动态视频,这道防线的可靠性就必须被重新审视。本文拆解三个问题:活体检测到底在检测什么、生成式模型是怎么骗过它的、这场攻防接下来会往哪走。看懂AI热点背后的技术逻辑,比记住一条新闻更有价值。
人脸识别不是“看一眼”,而是一套多环节流水线很多人以为人脸识别就是“拍张照、比对一下”,实际上它是一条多环节的流水线。第一环是人脸检测,从画面里框出人脸区域,输出边界框和关键点;第二环是活体检测,判断镜头前是真人还是照片、视频、面具或合成影像;第三环是特征提取,用卷积网络或视觉Transformer把人脸映射成一个高维向量(常见为128维到512维);
第四环才是比对,计算向量之间的余弦相似度或欧氏距离是否超过阈值。
真正决定安全性的,往往不是最后那一步比对,而是第二环的活体检测。因为特征比对本质上只回答“这张脸像不像”,而活体检测回答的是“这张脸是不是此刻真实存在于镜头前的活人”。前者是数学问题,后者更接近一个物理与行为学问题。换句话说,比对模型再准,只要活体检测被攻破,攻击者拿受害者的真实照片去比对,相似度天然就高。 活体检测主流的实现路径有两类。一类是“配合式”,要求用户完成点头、眨眼、张嘴、转头等动作,系统检测动作的时序是否符合真人特征,比如眨眼时长、头部转动角速度是否落在人类生理区间内;另一类是“静默式”,不要求用户配合,而是通过纹理分析、光照反射一致性、微表情、屏幕摩尔纹、红外深度等线索判断真伪。
不同平台出于体验考虑,往往混用多种策略,比如先静默初筛、可疑时再触发动作挑战。
这就解释了为什么通报里的攻击方式值得警惕:它针对的正是“配合式”活体检测的软肋。攻击者不需要攻破特征比对模型,只需要让系统相信“镜头前有个活人在做动作”,后面的比对环节自然会拿伪造视频里的脸去和数据库里的照片匹配——而那张照片本来就是受害者本人的。整条链路里,最薄弱的环节被精准命中,后面的高强度加密和比对精度都失去了意义。
生成式模型如何“表演”一个活人要理解攻击原理,得先理解生成式视频模型在做什么。以扩散模型为代表的视频生成技术,核心是在噪声中逐步“去噪”,最终生成符合文本或图像条件的连续帧。当输入是一张静态人脸照片时,模型可以以这张照片为身份锚点(identity anchor),生成它在不同表情、不同姿态下的连续变化。这里的难点不在单帧逼真,而在多帧之间保持同一张脸、同一套光照、同一副骨骼结构。
关键在于“动作可控”。通过面部关键点驱动、姿态条件注入或时序控制模块,生成模型可以让输出视频里的人脸按照指定轨迹点头、眨眼、轻微转头。早期这类生成在时序一致性上容易露馅——帧与帧之间抖动、五官漂移、边缘闪烁,但近一两年视频生成模型的时序连贯性有明显进步,短时长、小幅度动作的伪造视频,肉眼已不容易分辨。
攻击者甚至不需要生成很长视频,几秒钟的动作片段就足以通过一次核验。 更值得关注的是攻击成本的变化。过去制作一段能骗过活体检测的视频,需要一定的影视后期能力或专门的换脸工具链;而现在,图像到视频的生成能力正在快速平民化,操作门槛显著下降。这意味着攻击面从“有技术能力的人”扩展到了“会用工具的人”,这是风险量级上的变化,而不只是技术炫技。安全领域有一个基本规律:当攻击成本下降到某个临界点,防御方就必须假设攻击会规模化发生。
不过要客观地说,通报中呈现的攻击成功,并不等于“所有活体检测都能被绕过”。它更可能说明的是:部分平台在面对特定类型的伪造视频时,防护策略存在不足。把个别案例推广成“人脸识别全面失效”,既不准确,也容易造成不必要的恐慌。技术分析的价值在于定位薄弱环节,而不是放大焦虑。
活体检测的“破绽雷达”为什么这次没响回到技术层面,活体检测原本依赖哪些线索?大致可以归为三类:物理线索、行为线索、设备线索。
物理线索包括皮肤纹理的次表面散射、光照在不同角度下的反射一致性、红外波段下的成像差异。真实人脸是立体的、有血色的、会反光的,而屏幕或纸张在这些维度上会留下痕迹。行为线索包括微表情的自然性、眼球运动的协调性、头部运动的惯性特征——真人转头时颈部和肩部会有联动,而驱动生成的视频往往只动了脸。设备线索则包括摄像头成像的噪声模式、屏幕摩尔纹、帧率异常等。
生成式伪造视频之所以能突破,往往是因为它在这三类线索上都“补课”了。物理层面,高质量生成视频的纹理和光照已经比较逼真;行为层面,动作是按真人轨迹驱动的,时序自然度提升;设备层面,如果攻击者用另一块屏幕播放伪造视频去对着摄像头,屏幕痕迹反而可能被当作“真实设备”的一部分。当伪造品在多个维度上都接近真实分布,单一线索的判别力就会迅速衰减。 这就引出一个核心判断:单点检测的时代正在结束。依赖单一动作指令(比如“请眨眨眼”)的活体检测,本质上是在和攻击者打一场规则已知的博弈——规则越固定,被针对性复现的成本就越低。真正有韧性的方案,是把多维线索做联合建模,并且让检测策略本身具有不确定性,比如随机组合挑战动作、随机插入隐式检测环节,让攻击者无法提前针对某一套固定规则做优化。
攻防的真实战场:从“检测动作”转向“检测生成痕迹”如果说明面上的攻防是“伪造 vs 识别”,那么更深一层的战场其实在“生成痕迹”上。任何生成模型都不是完美的,它在生成过程中会留下统计层面的“指纹”。这条路线的价值在于:它不依赖攻击者具体用了哪张照片、哪个动作,而是针对生成模型的共性缺陷。
一类痕迹来自生成过程本身。扩散模型的去噪步骤、上采样插值、帧间预测,都可能在频域留下特定模式,或者在高频细节上呈现与真实摄像头成像不同的分布。真实摄像头有传感器噪声、有镜头畸变、有压缩编码的特定规律,这些“不完美”恰恰是真实性的证据;而生成视频的噪声分布往往过于“干净”或呈现非自然的相关性。检测模型可以通过频域分析和噪声残差提取来捕捉这些差异。
另一类痕迹来自时序。真实人脸在做点头动作时,颈部肌肉、皮肤形变、光影变化是耦合的;伪造视频即使单帧逼真,多帧之间的物理一致性仍可能出现细微断裂。检测方可以通过分析帧间光流的一致性、关键点运动的物理合理性来捕捉这些断裂。比如真实眨眼伴随眼周肌肉的协同收缩,而驱动生成的眨眼可能只有眼睑开合、缺少周边组织的联动。 这也解释了为什么“检测生成痕迹”这条路更有前景:它把防御重心从“猜攻击者怎么做”转向“识别生成模型的固有缺陷”。但这条路同样有挑战——生成模型在迭代,痕迹在变淡;检测模型需要持续更新,形成“检测—对抗—再检测”的循环。这是一场没有终点的军备竞赛,而不是一次性的技术升级。
需要保留的争议在于:目前公开讨论中,对于“生成痕迹检测能否长期稳定领先”存在不同看法。乐观方认为生成模型总有统计破绽,检测可以跟上;谨慎方认为随着模型能力提升,痕迹会越来越难捕捉,单靠检测不够,需要叠加多因子验证。笔者认为,两种判断都有道理,现实答案更可能是“检测有效但不足以单独兜底”——它可以作为风险信号的一路,但不能成为唯一裁决。
案例对照:为什么有的场景更脆弱把这次事件放到更大的坐标系里看,会发现一个规律:人脸核验的脆弱程度,和它被赋予的“权限大小”强相关,也和它是否“单因子”强相关。
在只需要“证明是本人登录”的低权限场景,即使被绕过,损失相对可控,平台也有其他风控手段兜底。但在涉及资金、账号找回、敏感操作的高权限场景,人脸如果作为唯一验证因子,一旦被伪造视频突破,后果就会被放大。通报中提到的购物平台核验,恰恰属于需要额外谨慎的类型——它连接着账户资产和交易权限。
对照来看,金融级应用通常不会只依赖人脸这一个因子。它们往往叠加了设备指纹、行为风控、短信或密码、交易限额、人工复核等多层机制。人脸只是其中一环,即使这一环被攻破,整体链路仍有拦截点。这不是说金融级方案就绝对安全,而是说“单点突破”不等于“全线失守”。安全设计的要义从来不是让每一环都坚不可摧,而是让整体攻击成本高于攻击收益。 另一个对照维度是“配合式”与“静默式”的差异。配合式体验好、实现简单,但规则暴露;静默式不打扰用户,但技术门槛高、误拒率控制更难。两者没有绝对优劣,关键在于场景匹配——高安全场景更应倾向多线索融合,而不是把宝押在几个动作指令上。把合适的检测强度匹配到合适的权限等级,比单纯追求某一项技术的先进程度更重要。
趋势研判:防线不会消失,但形态会变基于以上分析,接下来有几个方向值得关注。
第一,多模态融合会成为主流。人脸不再孤立使用,而是与设备信息、行为特征、环境上下文、甚至声纹等结合,做联合决策。单因子的“通过/不通过”会逐渐让位于多因子的“风险评分”,风控系统根据评分动态决定放行、二次验证还是拦截。
第二,活体检测会从“规则驱动”走向“模型驱动 + 随机化”。固定动作指令容易被复现,而随机化的挑战方式、结合隐式线索的检测,会提高攻击的适配成本。这不是绝对防御,但能显著抬高门槛,让批量化的低成本攻击难以奏效。
第三,生成痕迹检测会作为独立能力被建设,并与其他风控信号联动。它更适合作为“风险提示”而非“唯一裁决”,用于触发二次验证。把它嵌入到多因子框架里,比让它单打独斗更符合工程现实。
第四,监管与标准会跟进。AIGC内容的标识、深度伪造的治理,正在成为共识方向。技术防护之外,制度层面的约束同样重要——当伪造内容的传播和制作有了可追溯的规则,攻击的隐性成本也会上升。
也要清醒地看到不确定性:生成模型的能力仍在快速演进,今天有效的检测手段,明天可能就需要更新;攻防成本的比例也在动态变化。任何声称“一劳永逸”的方案,都值得打个问号。安全领域没有终局,只有持续的平衡。
结语:真正要守的不是某一行代码,而是分层的信任回到开头那个问题:安全防线还守得住吗?比较诚实的回答是——它不会因为一次曝光就整体失守,但确实需要重新设计。把安全寄托在单一环节上,无论这个环节多先进,都存在被针对性突破的风险;而把验证拆成多层、让每层各司其职、并保持策略的动态更新,才是更现实的路径。
对普通用户来说,能做的其实有限但有用:减少在公开平台暴露高清正脸照,对涉及资金的操作保持警惕,开启平台提供的多因子验证。对技术从业者来说,这次事件更像一个提醒——AIGC带来的不只是内容生产的变革,也在重塑身份验证的攻防边界。防御的思路要从“证明这是真人”升级为“持续评估这次验证的风险有多高”。
对此你怎么看?你身边有没有遇到过“人脸验证太容易过”或“验证太麻烦”的体验?欢迎在评论区留言。