央广网北京11月15日消息(记者马靖宇 于晨 王殿甲)据中央广播电视总台中国之声《新闻纵横》报道,点头、眨眼、摇头——这套动作是很多App刷脸验证的固定流程。然而,浙江省杭州市中级人民法院公布的一起典型案例,引发用户对人脸识别的担忧——两名不法分子用网上收集来的照片,通过AI生成点头眨眼的动态视频,再通过虚拟相机应用等手段非法登录个人账号。

杭州中院一审认为,上述行为侵害众多不特定社会主体的个人信息权益,损害相关领域社会公共利益,构成侵权。不法分子是如何通过AI生成内容骗过识别系统的?如何做好预防措施,保护个人信息安全?

杭州市中级人民法院公布的案件中,张某、王某为牟利,通过某种途径从境外某社交软件获取他人手机号码、头像照片、身份信息等,并利用“AI换脸”技术制作虚假活体验证视频,强制登录他人购物平台账号,将收货地址、购物车信息售卖给第三方,同时还有偿替他人进行虚假实名认证。杭州市中级人民法院知识产权审判庭法官助理叶永青介绍,这个案例最典型的特征是身份验证环节被突破。

“传统侵权泄露的是信息,这个案子当中被攻破的是身份验证这一重要防线,人脸唯一且不可更改,一旦被合成动态视频绕过活体认证环节,那么受害者可能面临的就不仅是单条信息的泄露,而是账户被接管,财产被转移,身份被冒用等一系列连锁风险,法院对此的态度也很明确,生物识别信息应当受到最严格保护,对这类行为的评判不能停留在个体损失层面。”叶永青说。

与身份信息、照片泄露不同,身份验证突破难度更大。某大型银行工作人员告诉中国之声记者,银行的远程人脸核验,并不是单纯看一段动态视频。除了画面里的张嘴、摇头等动作,后台还设置了多层反伪造校验。系统可能会检测画面的成像噪声、光影一致性、纹理、3D深度信息等,此外还要进行活体检测算法的检验。那么AI生成内容是如何骗过识别系统的?复旦大学发展研究院青年副研究员张晓寒介绍,伪造手段主要分为面部信息盗取和活体模拟两部分。

张晓寒称:“人脸认证的基本原理主要包含两个部分。一个是人脸匹配,就是看当前这个人是不是要认证的人。另一个叫作活体检测,也就是说要看当前这个人是不是一个活人。二者结合起来,就是说他是一个活人,并且是要去认证的人。AI视频攻击人脸认证系统,就是针对这两个部分。大部分的AI攻击,都可以获得受害者的一张原照片。‘匹配受害者身份’这一关可以通过。我们做人脸认证的时候,它会要求我们点头、摇头、张嘴,还有红黄蓝绿等各色的反光。近两年,多模态大模型技术能力不断增强。在活体检测的对应操作方面,AI视频都可以做得很好。部分人脸识别系统的服务端未能将AI视频拦截下来,就导致其人脸认证获得通过。”

该案中,张某、王某利用“AI换脸”技术,通过深度学习算法识别目标人物照片并提取人脸信息,随后不断利用这些信息进行训练建模,实现换脸效果。二人除了制作虚假的人脸认证视频,还通过在手机中植入虚拟相机应用程序替换本地相机,这样一来,当平台调取摄像头进行人脸识别验证时,屏幕中的人脸就自动替换成了这段合成视频。

张晓寒分析,拦截的难点主要在于登录设备和成本问题:“第一个就是客户端能否保证数据不被篡改、不被注入。在一些比较低端或者‘越狱’的设备上,它没办法保障数据安全。另一个是成本不对等的问题,就是服务端可能很难有办法对所有请求都采取比较复杂的检测机制。”

过去,换脸等入侵手段需要专业团伙才能做到,然而,现在只需开源工具和手机就能作案,AI侵权呈现低门槛化趋势。人脸认证等手段还可靠吗?张晓寒表示,需要增强个人信息安全意识,但也不必过度恐慌。

张晓寒表示:“国家相继出台一系列的政策法规还有国家标准。技术标准方面,我们也有《信息安全技术 远程人脸识别系统技术要求》和《信息安全技术 人脸识别数据安全要求》。所以国家层面其实考虑到了这个问题。但近期AI生成活体检测视频的能力越来越强。对于公众来说,我觉得一方面要做好个人隐私的保护,另一方面可以在App中开启多因素认证或双因素认证。这样的话,它除了校验人脸,还会校验手机验证码等其他信息,从而避免‘通过人脸认证就能攻击’情形。”

叶永青介绍,法律层面仍在不断更新,为个人信息安全提供保障。

“目前,《中华人民共和国民法典》《中华人民共和国个人信息保护法》和新修改的《中华人民共和国网络安全法》都对人脸信息或生物识别信息作出相关规定。除此之外,最高人民法院专门发布《关于依法审理涉人工智能纠纷案件的意见》,进一步明确了涉人工智能案件的司法裁判规则。当前,我国正在推动人工智能领域的专门立法进程。”叶永青说。