蚂蚁数科新产品发布:拦截“AI换脸”风险 其测试样本超30万_顶尖财经网
  您的位置:首页 >> 财经频道 >> 风险投资 >> 文章正文

蚂蚁数科新产品发布:拦截“AI换脸”风险 其测试样本超30万

加入日期:2024-4-16 17:04:54

凤凰网科技讯 4月16日,蚂蚁数科旗下科技品牌深度伪造(Deepfake)综合防控产品ZOLOZ Deeper在北京正式发布,以拦截用户刷脸过程中的“AI换脸”风险,目前已率先应用在身份安全领域。蚂蚁集团天玑实验室会通过GAN模型生成超30万测试样本,交给ZOLOZ Deeper 进行判别训练,每个月还会对其进行超过20000次的攻防测评,模拟上百种伪造攻击情况。

据介绍,ZOLOZ早在2019年就启动了Deepfake算法研发,彼时主要应对一些简单的人脸攻击,比如把图片、视频、面具等虚假内容呈现在摄像头前面,攻破人脸识别系统。ZOLOZ Deeper是针对注入式、活化等复杂攻击手段迭代而来的产品。