西安日报社数字报刊

换脸APP引发隐私泄露担忧 西安科技公司推出检测技术
2019-09-18 14:38  来源:西安新闻网-西安日报   西安报业全媒体编辑:刘婧媛

  8月30日晚开始,一款名为“ZAO -逢脸造戏”的 AI 换脸APP 突然爆红,用户只需上传一张正脸照片,即可一键将自己的脸部无痕换到明星脸上,从而生成以自己为主角的经典电影片段、热门表情包,跟明星同场飙戏。截至 8月31日15时,ZAO跃升至ios免费APP下载榜第1位,超越爱奇艺、腾讯视频,登上微博热搜第6位,同一时间等待体验AI换脸的超过1万人。

  ZAO的爆红,引发个人隐私数据泄露的担忧。近日,记者采访了西安深信科创信息技术有限公司(以下简称深信科创)副总经理鲍帅,他解释说,AI换脸这一技术在2017年出现后,就曾引起轩然大波,当时有人将知名女星的脸换到某些情色影片中,甚至有普通人沦为这项技术的受害者,AI伦理与内容安全的问题也随之浮出水面。治理AI换脸方面的问题,绝不能再走过去“先乱后治”的老路,鲍帅对此十分认同。他所在的深信科创已经投入了大量的研究,致力于解决人工智能时代虚假多媒体、语音造假等新的社会问题。据悉,深信科创同时也是清华交叉信息核心技术研究院的孵化公司之一,致力于提升人工智能、金融科技等新兴软件系统的质量和安全。

  鲍帅介绍,AI 换脸的成本普遍在0.5-1 元之间,随着互联网用户的大规模参与和技术的发展,这种低成本造假的问题日渐严重,很容易滋生诈骗,或者在各种人像识别场景盗用,甚至刷脸支付。一些有目的的人只需用视频或照片对AI进行训练,就能轻易完成换脸。目前,AI换脸一方面难以鉴定,另一方面执法成本太高,在网络上已经形成了换脸的灰色产业链。而一些以假乱真的换脸视频在网络上广泛传播,导致虚假广告、电信诈骗的出现,严重的还可能对国家的舆情安全、国防安全产生很大的危害。

  互联网厂商的传统审核模式,很难快速精准地过滤虚假内容。如何用技术鉴定视频有没有被换脸?如何迅速检测网络存在的内容异常?成为网络信息安全问题的一项新的重大课题。

  这些不安全到底是怎么回事呢?鲍帅解释,人脸识别、打卡签到、门禁、自动驾驶这些场景,在攻击者眼中都是可以攻破的。比如一些特别制作的标记图案,就能把机器视觉欺骗:把“你”变成“他”,或让你直接从机器的视野里消失掉。由于人工智能模型的数学解释性还不足,实际应用中可能会出现一些问题。深信科创从测试和安全的角度,去弥补数学解释性不足的问题:用前沿的质量测评算法和对抗数据,告诉厂商以及开发者,他们所使用的人工智能模型质量和安全性是否过硬。

  “我们相当于一个人工智能算法的质检部门,质量测试不通过,或者我攻击你的模型成功了,那你就是不合格。换句话说,测试和攻击都是为了保障安全。”鲍帅告诉记者,深信科创目前的产品包含两个内容:一是深度学习的模型质量保障;一是多媒体内容安全,也就是前面提到的如何辨别AI换脸造假的技术。鲍帅是2017 华为研究所优秀工程师,也是华为公有云CTO办公室成员。他表示,公司在 AI 换脸检测、合成检测、造假识别这些领域已经积累了大量的研究和实践,推出了AiMediaGuard 合成视频检测技术。该技术可以检测视频中人脸的真假,即是否存在换脸。针对此次 ZAO 的爆红,深信科创也在第一时间用AiMediaGuard检测了大量视频,检测的成功率达到了99%。

  据介绍,人工智能安全领域是新兴的行业,对技术和科研积累的要求很高,国外大多数从业者都是一些高校实验室,还没有出现商业公司,国内商业化公司目前只有深信科创一家。目前深信科创联合中国电子技术标准化研究院(CESI),成立了“人工智能测评技术创新实验室”,旨在为国家建立人工智能质量测评和安全的行业标准,共同推动行业的健康发展。作为初创团队的深信科创,有着良好的技术积累和学术背景,依托清华交叉信息核心技术研究院,持续为我国人工智能技术的发展献智献力,力争成为人工智能安全领域的独角兽企业。(西安报业全媒体记者 张潇 实习生 杜荣)

来源:西安新闻网-西安日报   西安报业全媒体编辑:刘婧媛
分享到:
【西安日报社声明】西安新闻网刊载西安日报、西安晚报文章已经西安日报社独家授权。自2009年1月1日起,其他商业网站(新闻单位主办的网站除外)未经西安日报社授权,不得转载西安新闻网上刊载的西安日报、西安晚报文章。欢迎新闻单位主办的网站在对等合作的基础上转载西安日报、西安晚报的新闻,转载时务必注明来源"西安新闻网-西安日报"、"西安新闻网-西安晚报"。其他商业网站如有合作意向请与西安新闻网联系,网站联系电话:029-88215931