警惕AI新骗术:声音克隆与换脸术如何攻破电信安全防线?
来源:中纪央媒网 浏览量:2497
分享到微信:
二维码

当老人接到“求助”电话,听到熟悉的声音时,瞬间慌了神,根本顾不上分辨真假。

警方特别提示:老年人接到类似电话,务必多问几句。如果对方不由分说就挂断,那很可能是用AI软件提前录好的声音。

除了AI模拟声音,犯罪团伙还盯上了“AI换脸”技术。湖北襄阳警方近期就破获了一起利用“AI换脸”激活电话卡,再倒卖给诈骗团伙的案件。电话卡激活联网依法需要实名认证和人脸识别,犯罪分子是如何得逞的呢?

2024年5月,襄阳警方获得线索,辖区内有人通过网络大量购买电话卡。

南漳县公安局网安大队大队长叶文俊介绍:“我们发现了本地一名可疑人员,伙同外地三名可疑人员在网上大量收购电话卡。随后,我们围绕他们购卡目的、方式及去向展开了综合调查。”

根据法律规定,购买电话卡必须实名登记。嫌疑人如何获得这些卡?即便购得,还需本人人脸识别激活才能使用。这些步骤他们又是如何完成的?

警方深入调查后锁定该犯罪团伙,并将成员全部抓获归案。

南漳县公安局网安大队副大队长吴长融通报:“我们抓获团伙成员后,现场扣押手机卡200余张,现金10万余元。同时发现该团伙非法掌握的公民个人信息多达1000余条。”

这个由7人组成的团伙分布全国各地,主要通过线上联系。他们分工明确:有人负责收集公民个人信息,有人负责购买电话卡,有人负责技术处理,还有人负责销售。

警方查明,该团伙不仅非法获取了大量公民个人信息(包括姓名、身份证号等),还掌握了受害人的照片。他们正是利用这些照片,制作出人脸识别所需的动态视频,骗过系统验证,完成电话卡激活。

吴长融副大队长详细解释了过程:“这些电话卡被寄给掌握换脸技术的团伙成员。此人收到卡后,利用换脸软件将公民信息制作成换脸视频。”

在进行电话卡激活的人脸识别步骤时,嫌疑人通过播放预先合成的人脸动态视频,成功欺骗注册系统,完成了识别认证,逐一激活了所有电话卡。

这些被非法激活的电话卡,随后以每张200元左右的价格被卖给电信网络诈骗团伙。

吴长融指出:“这些非法流入市场的电话卡,被诈骗团伙用于全国作案50多起,涉案金额超500万元。例如,山西省太原市一名70岁老人,就被诈骗团伙利用此类电话卡骗走了60余万元。”

2025年6月10日,该案三名主犯因犯帮助信息网络犯罪活动罪,被南漳县人民法院一审分别判处有期徒刑一年至一年八个月不等,并处罚金。

这起案件中,犯罪嫌疑人集中利用了某一家运营商实名认证的技术漏洞频繁作案。警方已督促该运营商更新系统。那么,其他运营商是否存在类似风险?现有的电话卡激活程序还安全吗?如何有效防范?

记者分别致电几大运营商咨询电话卡激活流程。

运营商客服人员介绍:“本人需携带实名认证的身份证到当地营业厅开卡。或者,您可以在App上选好套餐,我们会派送员送货上门。激活时,需要机主本人持身份证原件在场。此外,也可以通过服务号专区服务中的‘新号码激活’功能申请激活。”

由此可见,电话卡激活主要有线上和线下两种方式。线下激活(营业厅或派送现场)均要求本人持身份证亲临,确保了流程的规范安全。线上激活则可通过运营商App或公众号,上传身份证信息并完成生物识别即可。

然而,随着AI换脸、伪造身份技术的不断升级,仅靠“身份证+人脸识别”的线上激活方式是否依然足够安全?

对外经济贸易大学数字经济与法律创新研究中心主任许可坦言:“网络安全内行都知道,没有永远安全的网络。人脸识别技术发展时间不长,技术本身在迭代更新中难免出现新漏洞,这很难完全避免。”

许可主任分析,人脸识别认证的本意是提升安全性,但不法分子的攻击手段也在同步升级,这是新技术应用固有的挑战。

“任何新技术新应用都可能存在未知问题,但不能因此否定其进步性。网络安全领域的攻防对抗,永远是魔高一尺道高一丈,在此消彼长中推动安全水平提升。”许可强调。

专家同时指出,尽管技术可能存在漏洞,但根据法律规定,运营商作为服务提供方,负有保障用户信息安全的法定义务。

许可主任援引法律条文:“我国《反电信网络诈骗法》第九条明确要求电信业务经营者全面落实电话用户真实身份信息登记制度;第十四条规定,应采取技术措施识别、阻断用于违法犯罪的设备、软件接入网络,并向相关部门报告。运营商是网络安全风险防控的第一线。”

许可进一步说明:“如果运营商未能落实好实名认证责任,可能面临5万至500万的罚款。极端情况下,还可能承担暂停营业等更严厉处罚,相关责任人也会被追责。”

那么,作为第一道防线的运营商,应如何堵住漏洞、履行风控责任?

许可主任建议:“以技术对抗技术,技术带来的风险需靠技术发展解决。实践中,已有运营商利用AI技术研发反AI造假产品,通过‘以AI治AI’的方式应对人脸识别攻击。”

记者采访了AI安全领域资深从业者朱萌。他表示,当前行业领先企业正积极投入防伪技术研发,在识别伪造图像和视频方面,准确率已超过95%,显著提升了系统安全性。

朱萌介绍:“业内已有技术尝试集成热力图等方法,鉴别对面是真人还是深度换脸生成的人像。顶尖技术的检出率超过95%,已能在实战中有效应对AI风险。”他指出,有些伪造内容人眼难辨,但通过训练AI可以完成识别任务。

实验人员将真实视频与AI换脸视频输入检测系统,系统能准确识别伪造片段。中国电子技术标准化研究院网安中心测评实验室副主任何延哲介绍,一些应用人脸识别的单位已采用类似防伪程序。

何延哲举例:“比如某新款智能手机,其视频通话功能就具备识别对面人脸是否伪造的能力。生成式AI的发展,也让我们能更方便地利用AI对抗AI。只要我们的AI技术不断创新,就能有效对抗作恶的AI。”

何延哲认为,除了不断提升技术手段和防伪能力,个人信息保护仍是关键。一方面,公众应提高防范意识,避免随意泄露个人信息;另一方面,存储个人信息的单位应采取更严格措施,特别是实施分离存储策略。

今年6月1日,《人脸识别技术应用安全管理办法》正式施行。该办法不仅要求人脸识别应用必须合法、正当、必要并严格保护,还鼓励研发推广安全便捷的电子身份认证技术,推进网络身份认证公共服务建设。这为防范AI换脸诈骗提供了更坚实的制度保障。

如遇作品内容、版权等问题,请在相关文章刊发之日起30日内与本网联系。 版权侵权联系电话:400-1191-838

声明 关于冒充我司名义发布不实信息的严正声明 江苏省射阳县城:我美丽的家乡 江苏盐城:一片新气象的蓬勃展现 国泰集团将开通香港至长沙直航 内地航点增至24个 宁夏发布葡萄酒产业空间规划 2030年剑指千亿综合效益
云南跨境人民币结算覆盖132国 区域金融合作深化 山西桥沟村西梅迎丰收 特色种植助力乡村振兴 山西乡宁:一块空心月饼里的产业转型大文章 醉驾治理新动向:使用“智驾神器”同样构成犯罪 电影《731》观影人次突破4000万 多国上映引关注
深理工周年校庆签四项合作协议 构建协同发展新格局 安徽启动百场戏曲惠民展演 推"观演+游览"新体验 申城光影节点亮多元消费新场景 郑钦文中网复出之旅因伤止步 主场奋战士气可嘉 中秋国庆假期消费观察:文化驱动型消费成新亮点
赣苏携手谱新篇 继往开来征新程 老宅生金,闲田结果:土地改革绘就乡村共富图景 长治长子县:212 亩潞党参基地成 “富民田” 留守村民家门口挣 “稳稳的幸福” 双节杭州口岸出入境预计 11.5 万人次 4 天单日客流将超 1.5 万 安徽 “十四五” 开放成果显著:吸引 99 家境外世界 500 强,700 余皖企出海布局
山东深耕蓝色经济 科技创新激活海洋发展新动能 全国首个高铁主题互动科技馆青岛开放 长江首艘光伏游轮启航 开启绿色航运新篇章 我国建成世界最大水利设施体系 惠及人口超6亿 电影《浪浪人生》北京首映 主创分享温暖家庭力量
上海大学生旅游节焕新启幕 青春活力闪耀复兴岛 福建传统折子戏展演落幕 稀有剧种焕发新生机 永福罗汉果飘香海外 特色产业助力乡村振兴 两岸同胞宁德共庆中秋 文化交流深化血脉亲情 杭州西湖区创新涉外普法 打造国际化法治服务新模式
WTT中国大满贯赛开幕 孙颖莎王楚钦强势晋级 “绿幕直播间”造假成风,虚拟背景冒充源头工厂 贵州花江峡谷大桥通车,“横竖”创世界纪录 排练11个月打磨精品!雷剧《苏子与罗湖》9月29日公演 剑指粤港澳大湾区文化艺术节 农村客货邮融合助力乡村振兴,多项措施提升服务效能