警惕AI新骗术:声音克隆与换脸术如何攻破电信安全防线?
来源:中纪央媒网 浏览量:1026
分享到微信:
二维码

当老人接到“求助”电话,听到熟悉的声音时,瞬间慌了神,根本顾不上分辨真假。

警方特别提示:老年人接到类似电话,务必多问几句。如果对方不由分说就挂断,那很可能是用AI软件提前录好的声音。

除了AI模拟声音,犯罪团伙还盯上了“AI换脸”技术。湖北襄阳警方近期就破获了一起利用“AI换脸”激活电话卡,再倒卖给诈骗团伙的案件。电话卡激活联网依法需要实名认证和人脸识别,犯罪分子是如何得逞的呢?

2024年5月,襄阳警方获得线索,辖区内有人通过网络大量购买电话卡。

南漳县公安局网安大队大队长叶文俊介绍:“我们发现了本地一名可疑人员,伙同外地三名可疑人员在网上大量收购电话卡。随后,我们围绕他们购卡目的、方式及去向展开了综合调查。”

根据法律规定,购买电话卡必须实名登记。嫌疑人如何获得这些卡?即便购得,还需本人人脸识别激活才能使用。这些步骤他们又是如何完成的?

警方深入调查后锁定该犯罪团伙,并将成员全部抓获归案。

南漳县公安局网安大队副大队长吴长融通报:“我们抓获团伙成员后,现场扣押手机卡200余张,现金10万余元。同时发现该团伙非法掌握的公民个人信息多达1000余条。”

这个由7人组成的团伙分布全国各地,主要通过线上联系。他们分工明确:有人负责收集公民个人信息,有人负责购买电话卡,有人负责技术处理,还有人负责销售。

警方查明,该团伙不仅非法获取了大量公民个人信息(包括姓名、身份证号等),还掌握了受害人的照片。他们正是利用这些照片,制作出人脸识别所需的动态视频,骗过系统验证,完成电话卡激活。

吴长融副大队长详细解释了过程:“这些电话卡被寄给掌握换脸技术的团伙成员。此人收到卡后,利用换脸软件将公民信息制作成换脸视频。”

在进行电话卡激活的人脸识别步骤时,嫌疑人通过播放预先合成的人脸动态视频,成功欺骗注册系统,完成了识别认证,逐一激活了所有电话卡。

这些被非法激活的电话卡,随后以每张200元左右的价格被卖给电信网络诈骗团伙。

吴长融指出:“这些非法流入市场的电话卡,被诈骗团伙用于全国作案50多起,涉案金额超500万元。例如,山西省太原市一名70岁老人,就被诈骗团伙利用此类电话卡骗走了60余万元。”

2025年6月10日,该案三名主犯因犯帮助信息网络犯罪活动罪,被南漳县人民法院一审分别判处有期徒刑一年至一年八个月不等,并处罚金。

这起案件中,犯罪嫌疑人集中利用了某一家运营商实名认证的技术漏洞频繁作案。警方已督促该运营商更新系统。那么,其他运营商是否存在类似风险?现有的电话卡激活程序还安全吗?如何有效防范?

记者分别致电几大运营商咨询电话卡激活流程。

运营商客服人员介绍:“本人需携带实名认证的身份证到当地营业厅开卡。或者,您可以在App上选好套餐,我们会派送员送货上门。激活时,需要机主本人持身份证原件在场。此外,也可以通过服务号专区服务中的‘新号码激活’功能申请激活。”

由此可见,电话卡激活主要有线上和线下两种方式。线下激活(营业厅或派送现场)均要求本人持身份证亲临,确保了流程的规范安全。线上激活则可通过运营商App或公众号,上传身份证信息并完成生物识别即可。

然而,随着AI换脸、伪造身份技术的不断升级,仅靠“身份证+人脸识别”的线上激活方式是否依然足够安全?

对外经济贸易大学数字经济与法律创新研究中心主任许可坦言:“网络安全内行都知道,没有永远安全的网络。人脸识别技术发展时间不长,技术本身在迭代更新中难免出现新漏洞,这很难完全避免。”

许可主任分析,人脸识别认证的本意是提升安全性,但不法分子的攻击手段也在同步升级,这是新技术应用固有的挑战。

“任何新技术新应用都可能存在未知问题,但不能因此否定其进步性。网络安全领域的攻防对抗,永远是魔高一尺道高一丈,在此消彼长中推动安全水平提升。”许可强调。

专家同时指出,尽管技术可能存在漏洞,但根据法律规定,运营商作为服务提供方,负有保障用户信息安全的法定义务。

许可主任援引法律条文:“我国《反电信网络诈骗法》第九条明确要求电信业务经营者全面落实电话用户真实身份信息登记制度;第十四条规定,应采取技术措施识别、阻断用于违法犯罪的设备、软件接入网络,并向相关部门报告。运营商是网络安全风险防控的第一线。”

许可进一步说明:“如果运营商未能落实好实名认证责任,可能面临5万至500万的罚款。极端情况下,还可能承担暂停营业等更严厉处罚,相关责任人也会被追责。”

那么,作为第一道防线的运营商,应如何堵住漏洞、履行风控责任?

许可主任建议:“以技术对抗技术,技术带来的风险需靠技术发展解决。实践中,已有运营商利用AI技术研发反AI造假产品,通过‘以AI治AI’的方式应对人脸识别攻击。”

记者采访了AI安全领域资深从业者朱萌。他表示,当前行业领先企业正积极投入防伪技术研发,在识别伪造图像和视频方面,准确率已超过95%,显著提升了系统安全性。

朱萌介绍:“业内已有技术尝试集成热力图等方法,鉴别对面是真人还是深度换脸生成的人像。顶尖技术的检出率超过95%,已能在实战中有效应对AI风险。”他指出,有些伪造内容人眼难辨,但通过训练AI可以完成识别任务。

实验人员将真实视频与AI换脸视频输入检测系统,系统能准确识别伪造片段。中国电子技术标准化研究院网安中心测评实验室副主任何延哲介绍,一些应用人脸识别的单位已采用类似防伪程序。

何延哲举例:“比如某新款智能手机,其视频通话功能就具备识别对面人脸是否伪造的能力。生成式AI的发展,也让我们能更方便地利用AI对抗AI。只要我们的AI技术不断创新,就能有效对抗作恶的AI。”

何延哲认为,除了不断提升技术手段和防伪能力,个人信息保护仍是关键。一方面,公众应提高防范意识,避免随意泄露个人信息;另一方面,存储个人信息的单位应采取更严格措施,特别是实施分离存储策略。

今年6月1日,《人脸识别技术应用安全管理办法》正式施行。该办法不仅要求人脸识别应用必须合法、正当、必要并严格保护,还鼓励研发推广安全便捷的电子身份认证技术,推进网络身份认证公共服务建设。这为防范AI换脸诈骗提供了更坚实的制度保障。

如遇作品内容、版权等问题,请在相关文章刊发之日起30日内与本网联系。 版权侵权联系电话:400-1191-838

江苏省射阳县城:我美丽的家乡 江苏盐城:一片新气象的蓬勃展现 国防教育与民生关怀共融 ------芜湖隐园防空洞变身市民避暑乐园 健身娱乐与红色教育同频共振 “两山论”20年,看中国的绿色跃迁 儿童电话手表突然自燃,还能不能戴了?
近400件文物亮相纪念特展 全景式展现华侨抗战历史 治安工作不放松、安全放在笫一位 员工虚构就业证明骗取竞业补偿被法院认定违约 需退钱并担违约金 医疗升级|AI算法赋能冠脉检查,武汉一医院实现微小病变精准筛查 青年携手农遗创新:全球农耕文化交流在上海启动
光影破浪,双帆出海:连接世界的抗战记忆 北席村葡萄丰收致富 电力赋能助产业腾飞 重庆氢能“动力芯”驱动中国绿色新里程 警惕“考试冷静药”健康风险:虚假热潮下的处方药陷阱 西安中欧班列十年奋进:累计开行破30000列,筑就欧亚高效物流大通道
2025宁波网球公开赛首批阵容揭晓:金花王欣瑜领衔,莱巴金娜、克雷吉茨科娃强势加盟 文旅融合新图景:2025年中国旅游业的价值革新与技术破局 广州暑假ACG盛宴:展会点燃消费热潮,二次元文化闪耀盛夏 “体育外卖”风靡暑期:教练上门教体育,家长省心孩子乐学 烽火仁心刘道荣与台湾义勇队抗战记忆
潍县烽火熔铸和平城:创伤之地焕发新生 纪录电影《山河为证》:全景式展现中国人民14年抗战艰辛历程 改善生态环境就是发展生产力——读懂“两山”理念的辩证思维 公益诉讼守护革命记忆 离石区修复17处抗战遗址焕新颜 广东队青少赛日收双银一铜 接力小将憾负新科纪录创造者
职业教育中产教协同育人的瓶颈与应对 港大学者识别肝癌抗药关键靶点,新型抑制剂CL26联合用药疗效显著 匠心制作引爆荧屏:《凡人修仙传》收视登顶全球热播 2023年前七个月重庆外贸进出口强势增长9.1%,多元市场布局推动新动能 晋中祁县早熟鲁丽苹果迎丰收 “千万工程”助力果园升级
AI时代的诗意成长:少年山海觅诗心 党旗映初心 担当护民安——甘肃榆中旧庄沟村党支部抗击山洪纪实 蓝色循环 生态共富:中国台州的海洋环保创新实践 盛夏文旅看点:各地特色项目激活“避暑经济” 人形机器人引爆2025世界机器人大会,27万人现场见证科技热潮