警惕AI新骗术:声音克隆与换脸术如何攻破电信安全防线?
来源:中纪央媒网 浏览量:3568
分享到微信:
二维码

当老人接到“求助”电话,听到熟悉的声音时,瞬间慌了神,根本顾不上分辨真假。

警方特别提示:老年人接到类似电话,务必多问几句。如果对方不由分说就挂断,那很可能是用AI软件提前录好的声音。

除了AI模拟声音,犯罪团伙还盯上了“AI换脸”技术。湖北襄阳警方近期就破获了一起利用“AI换脸”激活电话卡,再倒卖给诈骗团伙的案件。电话卡激活联网依法需要实名认证和人脸识别,犯罪分子是如何得逞的呢?

2024年5月,襄阳警方获得线索,辖区内有人通过网络大量购买电话卡。

南漳县公安局网安大队大队长叶文俊介绍:“我们发现了本地一名可疑人员,伙同外地三名可疑人员在网上大量收购电话卡。随后,我们围绕他们购卡目的、方式及去向展开了综合调查。”

根据法律规定,购买电话卡必须实名登记。嫌疑人如何获得这些卡?即便购得,还需本人人脸识别激活才能使用。这些步骤他们又是如何完成的?

警方深入调查后锁定该犯罪团伙,并将成员全部抓获归案。

南漳县公安局网安大队副大队长吴长融通报:“我们抓获团伙成员后,现场扣押手机卡200余张,现金10万余元。同时发现该团伙非法掌握的公民个人信息多达1000余条。”

这个由7人组成的团伙分布全国各地,主要通过线上联系。他们分工明确:有人负责收集公民个人信息,有人负责购买电话卡,有人负责技术处理,还有人负责销售。

警方查明,该团伙不仅非法获取了大量公民个人信息(包括姓名、身份证号等),还掌握了受害人的照片。他们正是利用这些照片,制作出人脸识别所需的动态视频,骗过系统验证,完成电话卡激活。

吴长融副大队长详细解释了过程:“这些电话卡被寄给掌握换脸技术的团伙成员。此人收到卡后,利用换脸软件将公民信息制作成换脸视频。”

在进行电话卡激活的人脸识别步骤时,嫌疑人通过播放预先合成的人脸动态视频,成功欺骗注册系统,完成了识别认证,逐一激活了所有电话卡。

这些被非法激活的电话卡,随后以每张200元左右的价格被卖给电信网络诈骗团伙。

吴长融指出:“这些非法流入市场的电话卡,被诈骗团伙用于全国作案50多起,涉案金额超500万元。例如,山西省太原市一名70岁老人,就被诈骗团伙利用此类电话卡骗走了60余万元。”

2025年6月10日,该案三名主犯因犯帮助信息网络犯罪活动罪,被南漳县人民法院一审分别判处有期徒刑一年至一年八个月不等,并处罚金。

这起案件中,犯罪嫌疑人集中利用了某一家运营商实名认证的技术漏洞频繁作案。警方已督促该运营商更新系统。那么,其他运营商是否存在类似风险?现有的电话卡激活程序还安全吗?如何有效防范?

记者分别致电几大运营商咨询电话卡激活流程。

运营商客服人员介绍:“本人需携带实名认证的身份证到当地营业厅开卡。或者,您可以在App上选好套餐,我们会派送员送货上门。激活时,需要机主本人持身份证原件在场。此外,也可以通过服务号专区服务中的‘新号码激活’功能申请激活。”

由此可见,电话卡激活主要有线上和线下两种方式。线下激活(营业厅或派送现场)均要求本人持身份证亲临,确保了流程的规范安全。线上激活则可通过运营商App或公众号,上传身份证信息并完成生物识别即可。

然而,随着AI换脸、伪造身份技术的不断升级,仅靠“身份证+人脸识别”的线上激活方式是否依然足够安全?

对外经济贸易大学数字经济与法律创新研究中心主任许可坦言:“网络安全内行都知道,没有永远安全的网络。人脸识别技术发展时间不长,技术本身在迭代更新中难免出现新漏洞,这很难完全避免。”

许可主任分析,人脸识别认证的本意是提升安全性,但不法分子的攻击手段也在同步升级,这是新技术应用固有的挑战。

“任何新技术新应用都可能存在未知问题,但不能因此否定其进步性。网络安全领域的攻防对抗,永远是魔高一尺道高一丈,在此消彼长中推动安全水平提升。”许可强调。

专家同时指出,尽管技术可能存在漏洞,但根据法律规定,运营商作为服务提供方,负有保障用户信息安全的法定义务。

许可主任援引法律条文:“我国《反电信网络诈骗法》第九条明确要求电信业务经营者全面落实电话用户真实身份信息登记制度;第十四条规定,应采取技术措施识别、阻断用于违法犯罪的设备、软件接入网络,并向相关部门报告。运营商是网络安全风险防控的第一线。”

许可进一步说明:“如果运营商未能落实好实名认证责任,可能面临5万至500万的罚款。极端情况下,还可能承担暂停营业等更严厉处罚,相关责任人也会被追责。”

那么,作为第一道防线的运营商,应如何堵住漏洞、履行风控责任?

许可主任建议:“以技术对抗技术,技术带来的风险需靠技术发展解决。实践中,已有运营商利用AI技术研发反AI造假产品,通过‘以AI治AI’的方式应对人脸识别攻击。”

记者采访了AI安全领域资深从业者朱萌。他表示,当前行业领先企业正积极投入防伪技术研发,在识别伪造图像和视频方面,准确率已超过95%,显著提升了系统安全性。

朱萌介绍:“业内已有技术尝试集成热力图等方法,鉴别对面是真人还是深度换脸生成的人像。顶尖技术的检出率超过95%,已能在实战中有效应对AI风险。”他指出,有些伪造内容人眼难辨,但通过训练AI可以完成识别任务。

实验人员将真实视频与AI换脸视频输入检测系统,系统能准确识别伪造片段。中国电子技术标准化研究院网安中心测评实验室副主任何延哲介绍,一些应用人脸识别的单位已采用类似防伪程序。

何延哲举例:“比如某新款智能手机,其视频通话功能就具备识别对面人脸是否伪造的能力。生成式AI的发展,也让我们能更方便地利用AI对抗AI。只要我们的AI技术不断创新,就能有效对抗作恶的AI。”

何延哲认为,除了不断提升技术手段和防伪能力,个人信息保护仍是关键。一方面,公众应提高防范意识,避免随意泄露个人信息;另一方面,存储个人信息的单位应采取更严格措施,特别是实施分离存储策略。

今年6月1日,《人脸识别技术应用安全管理办法》正式施行。该办法不仅要求人脸识别应用必须合法、正当、必要并严格保护,还鼓励研发推广安全便捷的电子身份认证技术,推进网络身份认证公共服务建设。这为防范AI换脸诈骗提供了更坚实的制度保障。

如遇作品内容、版权等问题,请在相关文章刊发之日起30日内与本网联系。 版权侵权联系电话:400-1191-838

江苏省射阳县城:我美丽的家乡 江苏盐城:一片新气象的蓬勃展现 声明 关于冒充我司名义发布不实信息的严正声明 中小学教师减负新规落地 非教学任务亟待精简 黄河大集焕发乡村新活力 多元服务惠民生
西安推进“一老一小”服务体系建设 提升民生福祉水平 山西出台生态环境保护新规 强化污染防治与绿色发展 婚前同居关系纳入家庭成员范畴 法律保护全面升级 哈尔滨冰雪运动普及率全国领先 全民健身成效显著 哈尔滨推出旅游服务暖心举措 全力保障游客消费体验
湖南科技成果交易平台启动 助力创新资源市场化配置 《雪域使命》广州首映 光影记录援藏奋斗岁月 非遗品牌推广周大理启幕 传统工艺焕发时代活力 西藏茶措村新居落成 高原牧民实现安居梦 香港社会各界迅速行动 踊跃捐助大埔火灾受影响居民
南宁茶博会启幕:千年茶香融汇创新活力,新式茶饮引领消费风潮 中柬共话“十五五”发展新机遇 金融合作助推双边关系 霍建华新剧登顶Netflix台区榜单 都市爱情剧海外受捧 守正创新担使命 声传时代正能量 学思践悟强党性 以赛促学砺初心 鸡西市鸡冠区开展党的理论知识竞赛
农业大学研发浆果饮品走红 科技创新赋能健康食品 山西祁县玻璃产业年产值突破34亿元 传统工艺焕发新生机 小珠贝做成十亿元大产业 都昌县传统产业焕发新生机 新晃龙脑产业年销破五千万 特色资源成经济发展新引擎 中域市县领导决策网报道
湖南城步巧用“林长制”绘就绿色发展新画卷 浙江云和白龙山片区创新"街乡共治"模式 助力搬迁群众增收致富 宁德制造工程船舶批量出口 海上丝路再启新航程 空天信息产业多项成果集中发布 应用场景加速拓展 贵州原生态摄影大展亮相上海 展现独特屯堡文化魅力
香港大埔宏福苑火灾基本扑灭 搜救工作持续展开 宁武县政协副主席董树平:三维协同赋能 让宁武毛健茶成政企共富“黄金叶” 广西首部民族杂技剧《花瓦俍兵》成功首演 展现壮族巾帼传奇 贺州创新校园普法机制 培养百名"小小法治宣传员" 成都“蓉侨通”平台助力本土企业开拓国际市场