深度学习或将演变成深度伪造,AI换脸威胁刷脸支付?支付宝:再逼真也无法突破

艾媒报告 |2019中国人工智能发展风险预警白皮书

随着人工智能的不断发展,人工智能产业不断深化,中国人工智能企业数量也在不断上升,但在技术与应用领域,均存在着不同程度的挑战与风险。对于未来人工智能技术的发展,态势虽一路高涨,但仍不能放松警惕。由人工智能带来的新一轮工业革命已经到来,教育呈现出与技术发展的不均衡必将导致失业问题的出现。对于人工智能带来的新的需求,唯有保持学习才能不被技术超前。<br/>With the continuous deve

艾媒报告 |2019中国人工智能发展风险预警白皮书 精品决策

   8月31日,一款名为ZAO的App爆火。

  用户只需通过手机号注册,提交清晰的面部照片,即可将经典影视剧片段中的男女主角替换成自己的脸。这些被 AI“改头换面”过的视频片段被肆无忌惮的上传到微信朋友圈、微博等社交平台。而因为短时间大量用户涌入,31日当天,该App还一度显示“服务器制作量过大,请稍后再试”。

  AI换脸或威胁刷脸支付

  这款软件在让用户们过一把当主角瘾的同时,有很多人关注到用户隐私安全问题,目前移动支付已经非常发达,“刷脸”技术也已经开始普及,由于ZAO 软件可通过 AI 换脸技术功能将图片变成生动的人物,很多人担心 AI 技术是否会威胁到支付安全,自己的账户会不会被使用 AI 合成的人脸盗刷。

  对此,支付宝官方回应称:“目前,网上各类换脸软件有很多,但不管换的有多逼真,都是无法突破刷脸支付的。

  ‘刷脸支付’采用的是3D人脸识别技术,在进行人脸识别前,也会通过软硬件结合的方式进行检测,来判断采集到的人脸是否是照片、视频或者软件模拟生成的,能有效地避免各种人脸伪造带来的身份冒用情况。”

  此外,在进行人脸识别后,部分用户还需要输入与账号绑定的手机号进行校验,进一步提高了安全性。同时,支付宝还会通过各种安全风控策略确保账户安全。比如刷脸支付功能需要用户进行开通操作,开通之后才能进行支付,用户也可以随时关闭。而且,即便出现账户被冒用的极小概率事件,支付宝也会通过保险公司进行全额赔付。

  一位国有大行网络金融部负责人也表示,其团队今年年初找权威机构做过人脸识别相关的检测,“在活体检测、视频攻击等方面存在一定风险;后台算法升级会使防控效果有一定提升,但是类似换脸的攻击威胁会一直存在。”

  “目前在手机银行应用人脸识别是作为辅助认证,要辅以短信等其他认证工具。小额支付领域风险较小,强调便捷,在有相关赔付保障情况下采取人脸识别问题应该也不大。”该银行人士说。

  深度学习或将演变成深度伪造

  专业人士表示,换脸appZAO实际上运用到一种名为深度学习的技术,但它最终或将演变成“深度伪造”,并存在潜在威胁。

  深度学习是人工智能的基础技术之一,基于深度学习算法的人工智能,能够从结构上模拟人脑的运行机制,而深度学习算法的实现基于海量的数据和高效的算力。反过来,数据的质量又决定了深度学习模型的最终实现效果。现阶段,语音识别技术、计算机视觉技术和自然语言处理等都足基于深度学习算法。

  模拟人脑的深度学习算法,可以分为训练环节(在大数据的基础上训练出深度神经网络模型和推断环节(在训练的基础上去推断数据并得出结论)。

  值得注意的是,深度学习系统本身面临多种安全威胁。如框架常见漏洞、模型安全漏洞、数据流处理风险。

  根据iiMedia Research(艾媒咨询调研)数据显示,64.1%的中国网民认为人工智能是存在风险/安全威胁的。40.3%的网民认为人工智能带来的最大危害就是个人信息泄露,其比重相对较高。艾媒咨询分析师认为,中国网民现阶段对人工智能存在的危害认知尚不全面。例如此次的换脸APP,它在肖像权、隐私权、版权等方面的潜在危害极大。

艾媒报告 |2019中国人工智能发展风险预警白皮书

随着人工智能的不断发展,人工智能产业不断深化,中国人工智能企业数量也在不断上升,但在技术与应用领域,均存在着不同程度的挑战与风险。对于未来人工智能技术的发展,态势虽一路高涨,但仍不能放松警惕。由人工智能带来的新一轮工业革命已经到来,教育呈现出与技术发展的不均衡必将导致失业问题的出现。对于人工智能带来的新的需求,唯有保持学习才能不被技术超前。<br/>With the continuous deve

艾媒报告 |2019中国人工智能发展风险预警白皮书 精品决策