警惕AI新骗术:声音克隆与换脸术如何攻破电信安全防线?
来源:中纪央媒网 浏览量:8
分享到微信:
二维码

当老人接到“求助”电话,听到熟悉的声音时,瞬间慌了神,根本顾不上分辨真假。

警方特别提示:老年人接到类似电话,务必多问几句。如果对方不由分说就挂断,那很可能是用AI软件提前录好的声音。

除了AI模拟声音,犯罪团伙还盯上了“AI换脸”技术。湖北襄阳警方近期就破获了一起利用“AI换脸”激活电话卡,再倒卖给诈骗团伙的案件。电话卡激活联网依法需要实名认证和人脸识别,犯罪分子是如何得逞的呢?

2024年5月,襄阳警方获得线索,辖区内有人通过网络大量购买电话卡。

南漳县公安局网安大队大队长叶文俊介绍:“我们发现了本地一名可疑人员,伙同外地三名可疑人员在网上大量收购电话卡。随后,我们围绕他们购卡目的、方式及去向展开了综合调查。”

根据法律规定,购买电话卡必须实名登记。嫌疑人如何获得这些卡?即便购得,还需本人人脸识别激活才能使用。这些步骤他们又是如何完成的?

警方深入调查后锁定该犯罪团伙,并将成员全部抓获归案。

南漳县公安局网安大队副大队长吴长融通报:“我们抓获团伙成员后,现场扣押手机卡200余张,现金10万余元。同时发现该团伙非法掌握的公民个人信息多达1000余条。”

这个由7人组成的团伙分布全国各地,主要通过线上联系。他们分工明确:有人负责收集公民个人信息,有人负责购买电话卡,有人负责技术处理,还有人负责销售。

警方查明,该团伙不仅非法获取了大量公民个人信息(包括姓名、身份证号等),还掌握了受害人的照片。他们正是利用这些照片,制作出人脸识别所需的动态视频,骗过系统验证,完成电话卡激活。

吴长融副大队长详细解释了过程:“这些电话卡被寄给掌握换脸技术的团伙成员。此人收到卡后,利用换脸软件将公民信息制作成换脸视频。”

在进行电话卡激活的人脸识别步骤时,嫌疑人通过播放预先合成的人脸动态视频,成功欺骗注册系统,完成了识别认证,逐一激活了所有电话卡。

这些被非法激活的电话卡,随后以每张200元左右的价格被卖给电信网络诈骗团伙。

吴长融指出:“这些非法流入市场的电话卡,被诈骗团伙用于全国作案50多起,涉案金额超500万元。例如,山西省太原市一名70岁老人,就被诈骗团伙利用此类电话卡骗走了60余万元。”

2025年6月10日,该案三名主犯因犯帮助信息网络犯罪活动罪,被南漳县人民法院一审分别判处有期徒刑一年至一年八个月不等,并处罚金。

这起案件中,犯罪嫌疑人集中利用了某一家运营商实名认证的技术漏洞频繁作案。警方已督促该运营商更新系统。那么,其他运营商是否存在类似风险?现有的电话卡激活程序还安全吗?如何有效防范?

记者分别致电几大运营商咨询电话卡激活流程。

运营商客服人员介绍:“本人需携带实名认证的身份证到当地营业厅开卡。或者,您可以在App上选好套餐,我们会派送员送货上门。激活时,需要机主本人持身份证原件在场。此外,也可以通过服务号专区服务中的‘新号码激活’功能申请激活。”

由此可见,电话卡激活主要有线上和线下两种方式。线下激活(营业厅或派送现场)均要求本人持身份证亲临,确保了流程的规范安全。线上激活则可通过运营商App或公众号,上传身份证信息并完成生物识别即可。

然而,随着AI换脸、伪造身份技术的不断升级,仅靠“身份证+人脸识别”的线上激活方式是否依然足够安全?

对外经济贸易大学数字经济与法律创新研究中心主任许可坦言:“网络安全内行都知道,没有永远安全的网络。人脸识别技术发展时间不长,技术本身在迭代更新中难免出现新漏洞,这很难完全避免。”

许可主任分析,人脸识别认证的本意是提升安全性,但不法分子的攻击手段也在同步升级,这是新技术应用固有的挑战。

“任何新技术新应用都可能存在未知问题,但不能因此否定其进步性。网络安全领域的攻防对抗,永远是魔高一尺道高一丈,在此消彼长中推动安全水平提升。”许可强调。

专家同时指出,尽管技术可能存在漏洞,但根据法律规定,运营商作为服务提供方,负有保障用户信息安全的法定义务。

许可主任援引法律条文:“我国《反电信网络诈骗法》第九条明确要求电信业务经营者全面落实电话用户真实身份信息登记制度;第十四条规定,应采取技术措施识别、阻断用于违法犯罪的设备、软件接入网络,并向相关部门报告。运营商是网络安全风险防控的第一线。”

许可进一步说明:“如果运营商未能落实好实名认证责任,可能面临5万至500万的罚款。极端情况下,还可能承担暂停营业等更严厉处罚,相关责任人也会被追责。”

那么,作为第一道防线的运营商,应如何堵住漏洞、履行风控责任?

许可主任建议:“以技术对抗技术,技术带来的风险需靠技术发展解决。实践中,已有运营商利用AI技术研发反AI造假产品,通过‘以AI治AI’的方式应对人脸识别攻击。”

记者采访了AI安全领域资深从业者朱萌。他表示,当前行业领先企业正积极投入防伪技术研发,在识别伪造图像和视频方面,准确率已超过95%,显著提升了系统安全性。

朱萌介绍:“业内已有技术尝试集成热力图等方法,鉴别对面是真人还是深度换脸生成的人像。顶尖技术的检出率超过95%,已能在实战中有效应对AI风险。”他指出,有些伪造内容人眼难辨,但通过训练AI可以完成识别任务。

实验人员将真实视频与AI换脸视频输入检测系统,系统能准确识别伪造片段。中国电子技术标准化研究院网安中心测评实验室副主任何延哲介绍,一些应用人脸识别的单位已采用类似防伪程序。

何延哲举例:“比如某新款智能手机,其视频通话功能就具备识别对面人脸是否伪造的能力。生成式AI的发展,也让我们能更方便地利用AI对抗AI。只要我们的AI技术不断创新,就能有效对抗作恶的AI。”

何延哲认为,除了不断提升技术手段和防伪能力,个人信息保护仍是关键。一方面,公众应提高防范意识,避免随意泄露个人信息;另一方面,存储个人信息的单位应采取更严格措施,特别是实施分离存储策略。

今年6月1日,《人脸识别技术应用安全管理办法》正式施行。该办法不仅要求人脸识别应用必须合法、正当、必要并严格保护,还鼓励研发推广安全便捷的电子身份认证技术,推进网络身份认证公共服务建设。这为防范AI换脸诈骗提供了更坚实的制度保障。

如遇作品内容、版权等问题,请在相关文章刊发之日起30日内与本网联系。 版权侵权联系电话:400-1191-838

两国务实合作帮助玻利维亚提升工业能力 贵州榕江县灾后恢复工作有序展开 庆祝香港回归祖国28周年活动于维园举行 「融媒聚力-声动四方」新时代党政宣传“中纪央媒网”的使命 2025华晨宇火星演唱会沈阳站:中西音乐碰撞,东北热情点燃收官之夜
九城联动接力活动盛大开启 全民健身热情高涨 香港家族办公室蓬勃发展,业界看好未来机遇 成都首条直飞雅典航线开通 13.5小时直通希腊 领导干部带头消费:澄清违规吃喝界限,提振市场活力 江西铅山紫溪乡开展七一主题党日活动走进‌怀玉山清贫园
网络“伪专家”横行,多方联手“清朗”出击 成县“生态像素”修复记:逐帧渲染绿水青山的“两山”转化之路 新疆棉的科技蜕变:智慧种植延伸产业链,农业技术走向世界 智慧农业赋能棉花提质增效 江苏盱眙“尅街”:龙虾飘香烟火气,“问题地块”成网红地标 阆中古城:四万人的烟火气,守护千年活态传承
AI手机:新纪元开启还是生态初探? 车轮上的新风景:骑行热带动产业升级与文化涵养 【全国文明村系列报道】 千年古邑 谱写文明新篇 4900万亩富硒土地!新疆南疆发现一条近千公里“硒腰带” 警惕屏幕共享诈骗:老人险失巨款,警方及时介入揭骗局
白鹭翩跹生态美 高温催热"凉经济" 中国多地消暑消费活力迸发 乡土绘新卷:首届中国农民画大展在沪启幕 《焕羽》今晚点映:青春悬疑照见现实棱镜 喜报!信州公安这位“女神探”荣获“天工杯工匠”
中葡论坛深化三大合作助力澳门精准桥梁角色 探秘联合飞机无人机基地:低空经济的腾飞之旅 民航新规严控充电宝安全 6月28日起乘机需认准合规3C标识 江西米粉香飘海内外,小产业撬动大发展 中国女篮加时惜败蒙古国,无缘三人篮球世界杯八强
黎巴嫩记者阿亚斯畅谈一带一路与中国发展启迪 2025年青海·大通第十六届老爷山花儿会启幕,展现民族团结与文化传承 高校创新校企合作模式 助力毕业生精准就业 辽宁省农业科学院全力支持春耕备耕,科技助力粮食安全与农业发展 赖清德所谓“团结”实为“谋独”政治要挟