中国新闻网-上海新闻
上海分社正文
“AI换脸”人眼难辨 瑞莱智慧推出“深度伪造检测平台”长期对抗潜在风险
2021年07月12日 10:31   来源:中新网上海  

  中新网上海新闻7月12日电(郑莹莹)信息爆炸时代,“眼见未必为实”。人工智能技术在带来新一轮发展机遇的同时,也存在诸如“AI换脸”之类的潜在安全隐患。

  8日至10日在上海举行的2021世界人工智能大会上,依托清华大学人工智能研究院设立的人工智能企业——北京瑞莱智慧科技有限公司(简称“RealAI”或瑞莱智慧)推出“DeepReal深度伪造检测平台”,致力补漏洞、长期对抗深度伪造技术带来的潜在风险。

  ——“三大潜在风险”让拥抱人工智能有难度

  “深度学习模型本身是黑盒,或者通俗来说,即便是开发者也难以明白它具体是怎么运作的,相应地,它一定存在难以被发现的漏洞;我们关注的AI内生安全就是希望去发现这些漏洞,并弥补这些漏洞。”瑞莱智慧副总裁唐家渝在受访时说。

  他介绍,随着人工智能的广泛应用,整个产业面临的三大困境逐渐浮现,瑞莱智慧致力于解决这些困境。

  第一是算法可靠问题,深度学习算法缺乏可理解的决策逻辑和依据,无法量化不同决策的可靠程度,导致难以落地于医疗、自动驾驶等高可靠性要求场景;同时,基于对抗样本攻击技术可以破解安防监控、手机刷脸解锁、人脸识别闸机等识别系统,实现身份伪装或隐身逃逸,为个人财产安全与社会公共安全带来全新挑战。

  第二是数据安全问题,提升AI能力需要挖掘数据价值,但在特定AI应用场景中,所需要用到的数据往往涉及个人隐私信息,简单明文数据传输和利用很可能导致隐私泄露;而有价值的数据分散形成数据孤岛,在打破数据孤岛的过程中,数据用途和用量难以控制,存在被滥用和复制的可能,同时数据权属不明确,数据收益不清晰。

  第三是应用可控问题,AI算法偏差导致不公平性风险,比如人脸识别算法存在种族歧视与性别歧视,AI信贷模型对特定地域人群的歧视等,缺乏有效衡量算法公平性的方法和工具;同时,AI技术的滥用引发道德伦理风险,比如深度伪造技术的滥用带来的个人和社会风险问题。

  ——人眼难辨  深度伪造需要依靠技术检测

  在应用安全问题方面,深度伪造技术的大规模滥用蕴含着巨大的潜在危害,将人工智能的负面作用推向了社会舆论的风口浪尖。

  比如,在Tik Tok上受到关注度极高的汤姆·克鲁斯的伪造视频,肉眼来看已经难以辨别是假的了。在人眼难辨的情况下,对于深度伪造的虚假内容,需要依靠技术进行检测。

  瑞莱智慧基于团队深厚的AI技术积累以及基于实战需求对产品不断迭代,正式推出业界真正可落地的深度伪造检测平台DeepReal。唐家渝介绍,该平台拥有工业级的检测性能,以及应对实网环境对抗变化的检测能力。平台支持对视频和图片进行批量检测,全界面化操作。他介绍,在目前所开源的所有学术数据集上,该平台的检测准确率均超过99%,同时,在百万规模的实网深度伪造测试集上达世界顶尖水平。平台对于单张图像的检测耗时不到30毫秒,支持横向扩展与集群部署,适用于大规模实网落地。针对互联网环境中众多的深度伪造类型,平台也进行了全面的覆盖,包括针对真实人物的面部替换、表情操纵,以及完全合成的虚假人物等。

  ——长期对抗 应对“不断进化的”深度伪造

  唐家渝介绍,依靠机器检测的过程其实是一个长期对抗的过程。这里的对抗性主要体现在两个方面。

  第一个方面是新的造假算法在不断丰富,伪造图像越发逼真。举两个典型的例子,最初的伪造视频其实是有一些反常识的特征的,比如一段1分钟的视频中,人没有眨一次眼睛,于是可以基于人体的生理特征去对人物的真假进行判定。但造假者随后就实现了在视频中随机生成眨眼动作,很大程度上逃避了这种检测方式。第二个例子,通常深度伪造视频为了让人物与背景有比较好的融合,会对边缘进行简单的高斯模糊处理,而当检测算法“捕捉”到这样的特征后,伪造算法也会升级,对人脸边缘做更精细化的处理。

  第二个方面是可利用深度学习的缺陷绕过检测算法。目前的检测算法仍然是基于深度学习框架,存在结构性缺陷。以典型的对抗样本攻击为例,通过在图片或视频上添加对抗样本噪音,可以使伪造内容躲避自动检测。

  唐家渝表示,实网环境中的伪造视频不断变化,需要有强对抗的手段加以遏制。为此,瑞莱智慧推出的检测平台主要从两方面进行了应对:一为了能够快速即时应对新型的深度伪造类型,利用了贝叶斯深度学习,另外加上小样本增量学习的方法,使得在初期见到少量新型伪造数据时,便能迅速学习到伪造特征从而进行有效检出。二在对抗环境中使用对抗学习技术,提升算法鲁棒性,有效应对恶意攻击。

  除了上述有代表性的两个方面外,瑞莱智慧也进行了全面的技术布局。比如实战环境中有音视频数据,所以会利用多模态分析算法综合分析;利用贝叶斯深度学习,将伪造视频的先验知识进行融合,输出更加准确的置信度,增加对预测结果确定性的预判,再结合具有可解释性的数据集标注和构建,保证检测结果可信服。除此,瑞莱智慧也布局了溯源技术,进一步提升检测结果的可解释性与可靠性。

  唐家渝说,“针对深度伪造的风险,一定是需要从监管到研究再到落地实战进行全方位的治理,技术防范是其中的基础。”因此,目前瑞莱智慧也已经与工信部、公安部等监管部门、科研机构、实战部门等进行合作,共建深度伪造治理生态。(完)

注:请在转载文章内容时务必注明出处!   

编辑:郑莹莹  

5
本网站所刊载信息,不代表中新社和中新网观点。 刊用本网站稿件,务经书面授权。
未经授权禁止转载、摘编、复制及建立镜像,违者将依法追究法律责任。
常年法律顾问:上海金茂律师事务所
##########
<dfn id='ClNDyYu'><basefont></basefont></dfn><basefont id='iGBxGl'><base></base></basefont><center></center>
    <kbd id='sVJZg'><address></address></kbd><i id='cDgX'><em></em></i><small id='muwG'><big></big></small>
      <optgroup id='kDXnfOmF'><blink></blink></optgroup><caption id='uNexiCl'><comment></comment></caption>
      <l id='ofCI'><s></s></l>
        <label id='nk'><kbd></kbd></label><b id='Cxi'><person></person></b><blink id='eNlNf'><big></big></blink><option id='VRuS'><b></b></option><bgsound id='roAZBB'><ol></ol></bgsound>
        ##########
        <dfn id='ClNDyYu'><basefont></basefont></dfn><basefont id='iGBxGl'><base></base></basefont><center></center>
          <kbd id='sVJZg'><address></address></kbd><i id='cDgX'><em></em></i><small id='muwG'><big></big></small>
            <optgroup id='kDXnfOmF'><blink></blink></optgroup><caption id='uNexiCl'><comment></comment></caption>
            <l id='ofCI'><s></s></l>
              <label id='nk'><kbd></kbd></label><b id='Cxi'><person></person></b><blink id='eNlNf'><big></big></blink><option id='VRuS'><b></b></option><bgsound id='roAZBB'><ol></ol></bgsound>