央视财经频道《经济半小时》报道度小满用技术破解AI换脸诈骗难题

近日,中央电视台财经频道(CCTV-2)《经济半小时》栏目播出《AI换脸诈骗的攻与防》报道专题《AI换脸诈骗的攻与防》,聚焦AI换脸技术滥用引发的金融风险:不法分子通过合成他人人脸信息尝试借贷,此类诈骗在网上信贷系统中频繁发生。为了解如何防范此类风险,栏目将镜头对准行业防深伪破局实践,深入解读了以度小满为代表的科技金融公司如何凭借专项技术,构建AI换脸诈骗防护体系,为全行业应对此类风险提供关键参考。

在《经济半小时》报道中,记者采访了金融科技公司度小满。据介绍,目前度小满已经研发了专门的风险识别算法。度小满相关负责人介绍,此前有一条活体认证视频进入系统,算法识别其风险分数达90多分,命中风险预警,经审核确认是一起AI换脸攻击案例。“国际认证中,90多分代表高于90%真实度的AI换脸,我们的系统能精准识别。”

在AI换脸模拟场景,度小满工作人员向央视记者展示了高仿真人脸生成审核样例:4张看似相同的人脸中,仅1张为真人。记者用肉眼无法分辨真伪,而团队的升维检测模型给出了清晰结果——风险分数50分以上即为高风险,前3张假脸均超过50分,真人则在50分以下。“魔高一尺,道高一丈,我们的升维检测模型在持续升级。”度小满首席技术官张文斌表示。

(央视《经济半小时》节目报道截图)

为提升技术防护能力,度小满还借鉴军事训练中“红蓝对抗”模式开展模型训练:蓝军模拟犯罪分子用AI人脸攻击服务器,红军负责识别拦截,确保在新型AI换脸技术出现前,提前做好应对。目前,该技术模型参数量达百亿级别,相较于两三年前普遍几千万级别的活体防伪模型,实现了从普通模型到大模型的跨越,能力大幅提升。实战成果显著,据张文斌介绍,去年度小满为14万客户发出诈骗提醒,成功阻止3000多起诈骗案件,预计挽回1.8亿元经济损失。

(防深伪技术工作后台界面)

值得警惕的是,随着AI技术变得越来越普遍,风险识别技术也需要与时俱进。有多位金融业内人士建议,面对AI换脸骗术,需推动全行业信息共享与技术共享。当一家金融机构发现新型AI诈骗手段,应及时同步至整个行业,不给骗子二次作案的机会,共同构建互联网金融安全屏障。

全部评论

相关推荐

10-24 11:08
已编辑
上海大学 Java
点赞 评论 收藏
分享
评论
点赞
收藏
分享

创作者周榜

更多
牛客网
牛客网在线编程
牛客网题解
牛客企业服务