警惕AI新骗术:声音克隆与换脸术如何攻破电信安全防线?
来源:中纪央媒网 浏览量:4553
分享到微信:
二维码

当老人接到“求助”电话,听到熟悉的声音时,瞬间慌了神,根本顾不上分辨真假。

警方特别提示:老年人接到类似电话,务必多问几句。如果对方不由分说就挂断,那很可能是用AI软件提前录好的声音。

除了AI模拟声音,犯罪团伙还盯上了“AI换脸”技术。湖北襄阳警方近期就破获了一起利用“AI换脸”激活电话卡,再倒卖给诈骗团伙的案件。电话卡激活联网依法需要实名认证和人脸识别,犯罪分子是如何得逞的呢?

2024年5月,襄阳警方获得线索,辖区内有人通过网络大量购买电话卡。

南漳县公安局网安大队大队长叶文俊介绍:“我们发现了本地一名可疑人员,伙同外地三名可疑人员在网上大量收购电话卡。随后,我们围绕他们购卡目的、方式及去向展开了综合调查。”

根据法律规定,购买电话卡必须实名登记。嫌疑人如何获得这些卡?即便购得,还需本人人脸识别激活才能使用。这些步骤他们又是如何完成的?

警方深入调查后锁定该犯罪团伙,并将成员全部抓获归案。

南漳县公安局网安大队副大队长吴长融通报:“我们抓获团伙成员后,现场扣押手机卡200余张,现金10万余元。同时发现该团伙非法掌握的公民个人信息多达1000余条。”

这个由7人组成的团伙分布全国各地,主要通过线上联系。他们分工明确:有人负责收集公民个人信息,有人负责购买电话卡,有人负责技术处理,还有人负责销售。

警方查明,该团伙不仅非法获取了大量公民个人信息(包括姓名、身份证号等),还掌握了受害人的照片。他们正是利用这些照片,制作出人脸识别所需的动态视频,骗过系统验证,完成电话卡激活。

吴长融副大队长详细解释了过程:“这些电话卡被寄给掌握换脸技术的团伙成员。此人收到卡后,利用换脸软件将公民信息制作成换脸视频。”

在进行电话卡激活的人脸识别步骤时,嫌疑人通过播放预先合成的人脸动态视频,成功欺骗注册系统,完成了识别认证,逐一激活了所有电话卡。

这些被非法激活的电话卡,随后以每张200元左右的价格被卖给电信网络诈骗团伙。

吴长融指出:“这些非法流入市场的电话卡,被诈骗团伙用于全国作案50多起,涉案金额超500万元。例如,山西省太原市一名70岁老人,就被诈骗团伙利用此类电话卡骗走了60余万元。”

2025年6月10日,该案三名主犯因犯帮助信息网络犯罪活动罪,被南漳县人民法院一审分别判处有期徒刑一年至一年八个月不等,并处罚金。

这起案件中,犯罪嫌疑人集中利用了某一家运营商实名认证的技术漏洞频繁作案。警方已督促该运营商更新系统。那么,其他运营商是否存在类似风险?现有的电话卡激活程序还安全吗?如何有效防范?

记者分别致电几大运营商咨询电话卡激活流程。

运营商客服人员介绍:“本人需携带实名认证的身份证到当地营业厅开卡。或者,您可以在App上选好套餐,我们会派送员送货上门。激活时,需要机主本人持身份证原件在场。此外,也可以通过服务号专区服务中的‘新号码激活’功能申请激活。”

由此可见,电话卡激活主要有线上和线下两种方式。线下激活(营业厅或派送现场)均要求本人持身份证亲临,确保了流程的规范安全。线上激活则可通过运营商App或公众号,上传身份证信息并完成生物识别即可。

然而,随着AI换脸、伪造身份技术的不断升级,仅靠“身份证+人脸识别”的线上激活方式是否依然足够安全?

对外经济贸易大学数字经济与法律创新研究中心主任许可坦言:“网络安全内行都知道,没有永远安全的网络。人脸识别技术发展时间不长,技术本身在迭代更新中难免出现新漏洞,这很难完全避免。”

许可主任分析,人脸识别认证的本意是提升安全性,但不法分子的攻击手段也在同步升级,这是新技术应用固有的挑战。

“任何新技术新应用都可能存在未知问题,但不能因此否定其进步性。网络安全领域的攻防对抗,永远是魔高一尺道高一丈,在此消彼长中推动安全水平提升。”许可强调。

专家同时指出,尽管技术可能存在漏洞,但根据法律规定,运营商作为服务提供方,负有保障用户信息安全的法定义务。

许可主任援引法律条文:“我国《反电信网络诈骗法》第九条明确要求电信业务经营者全面落实电话用户真实身份信息登记制度;第十四条规定,应采取技术措施识别、阻断用于违法犯罪的设备、软件接入网络,并向相关部门报告。运营商是网络安全风险防控的第一线。”

许可进一步说明:“如果运营商未能落实好实名认证责任,可能面临5万至500万的罚款。极端情况下,还可能承担暂停营业等更严厉处罚,相关责任人也会被追责。”

那么,作为第一道防线的运营商,应如何堵住漏洞、履行风控责任?

许可主任建议:“以技术对抗技术,技术带来的风险需靠技术发展解决。实践中,已有运营商利用AI技术研发反AI造假产品,通过‘以AI治AI’的方式应对人脸识别攻击。”

记者采访了AI安全领域资深从业者朱萌。他表示,当前行业领先企业正积极投入防伪技术研发,在识别伪造图像和视频方面,准确率已超过95%,显著提升了系统安全性。

朱萌介绍:“业内已有技术尝试集成热力图等方法,鉴别对面是真人还是深度换脸生成的人像。顶尖技术的检出率超过95%,已能在实战中有效应对AI风险。”他指出,有些伪造内容人眼难辨,但通过训练AI可以完成识别任务。

实验人员将真实视频与AI换脸视频输入检测系统,系统能准确识别伪造片段。中国电子技术标准化研究院网安中心测评实验室副主任何延哲介绍,一些应用人脸识别的单位已采用类似防伪程序。

何延哲举例:“比如某新款智能手机,其视频通话功能就具备识别对面人脸是否伪造的能力。生成式AI的发展,也让我们能更方便地利用AI对抗AI。只要我们的AI技术不断创新,就能有效对抗作恶的AI。”

何延哲认为,除了不断提升技术手段和防伪能力,个人信息保护仍是关键。一方面,公众应提高防范意识,避免随意泄露个人信息;另一方面,存储个人信息的单位应采取更严格措施,特别是实施分离存储策略。

今年6月1日,《人脸识别技术应用安全管理办法》正式施行。该办法不仅要求人脸识别应用必须合法、正当、必要并严格保护,还鼓励研发推广安全便捷的电子身份认证技术,推进网络身份认证公共服务建设。这为防范AI换脸诈骗提供了更坚实的制度保障。

如遇作品内容、版权等问题,请在相关文章刊发之日起30日内与本网联系。 版权侵权联系电话:400-1191-838

江苏省射阳县城:我美丽的家乡 江苏盐城:一片新气象的蓬勃展现 声明 关于冒充我司名义发布不实信息的严正声明 转贷牟利风险高 深圳一男子“赔了夫人又折兵” 科技小院扎根田头:福建长泰鲜食玉米产业的“青春力量”
公益金助力老区振兴:黎城打造太行山乡新画卷 活水润村:一口深井引泉,赣南小村走出特色振兴路 福州至吉隆坡全货机航线开通 搭建东南亚空中货运新通道 广西返乡青年创新养殖:发酵牧草喂出“生态猪” 广州举办志愿者之夜活动 致敬十五运会和残特奥会服务者
2025年全国演出市场稳健增长 综合带动消费超2800亿元 全链条织密安全网 舌尖上的安心有保障 黑河市以“三维发力”筑牢农产品质量安全防线 广西下达2.37亿元救助资金 保障逾百万受灾民众温暖过冬 中科曙光万卡超集群斩获国际设计大奖,以创新设计破解AI算力瓶颈 光伏赋能绿色发展 擘画能源转型新图景
古彩戏法津门焕新 袖里乾坤演绎东方智慧 鸡泽羊角椒:千年贡品谱写乡村振兴“热辣”新篇 北京女排主场逆转河南 收获联赛三连胜 暖心加油站 温情暖人心 ——双辽市兴隆镇佳兴石油加油站李明珠诚信服务赢赞誉 民勤韭黄产业四季生金 技术协作助力乡村振兴
山东青州一村庄人才辈出 耕读传家成风尚 中国选手包揽自由式滑雪空中技巧世界杯年度总冠军 银川推出房地产新政 多措并举促进市场平稳发展 哈尔滨—斯洛伐克投资贸易日活动成功举办 用人单位以新借口拖延薪资支付 相关案例揭示隐形欠薪问题
吉港中学教育交流活动在吉林展开 聚焦历史与科技体验 《翠湖》举办专家研讨会 获赞呈现东方家庭美学 新书《我的探月计划》发布:以故事引领青少年走近航天科技 守味创新:非遗美食西营官尝的现代化传承路 北疆三大湖泊生态持续改善 守护行动见证环境蜕变
云南培育265个“滇”字号劳务品牌 带动就业约600万人 农文旅融合助力永康乡村走稳共富路 红外相机记录野生大熊猫雪地活动影像 四川实现高校红十字会全覆盖 青少年会员超80万人 中埃经贸合作再添新平台 重庆成立文旅商务中心