同花顺-圈子

请广大用户注意风险,切勿加入站外群组或添加私人微信,如因此造成的任何损失,由您自己承担。
美国大选前夕 Facebook对“AI换脸”下手了
0人浏览 2020-01-12 10:04

  正值美国大选前夕,美国知名社交平台Facebook(脸书)宣布严打换脸视频。

  近日,有外媒消息称,Facebook宣布,将移除Deepfake视频(即换脸视频)以及其他被人工操控的视频,旨在遏制美国大选前的错误信息传播。值得一提的是,一些意在模仿和讽刺的视频并不在移除之列。

  与此同时,最近微软公司旗下微软研究院也与北京大学的研究小组共同提出了一种全新的 AI 换脸框架 FaceShifter ,以及一种检测伪造人脸图像的方法 FaceX-Ray 。 前者可以极大提高换脸的高保真度,而后者则用于检测出复杂伪造人脸图像。

  AI换脸又被重提,这次是否能够解决其负面影响,对其进行有效监管?

  双刃剑

  什么是Deepfake? 它来源自英文“Deep learning”(深度学习))和“fake”(伪造)的混成词,专指用基于人工智能AI的 人体图像合成技术 。 此技术可将已有的图像和影片叠加至目标图像或影片上,犹如AI换脸。 Deepfake本身除了可以创作一些更加有趣的内容作品外,其所生成内容还存在道德和社会的问题,这也引发人们大量争论。

  首先,在 艺术行业 内,随着特效技术多年来不断的发展和普及,AI换脸被越来越广泛地应用到电影中,使演员们能够完成各种高难度动作,甚至“返老还童”、“起死回生”等特殊技能,让很多以前无法实现的场面得以呈现在大屏幕上。 这也让视觉效果大大提升,满足了观众的观影体验。 而且,用户还可以随时自我带入影视剧情中,满足自己的明星梦。

  其次,通过“深度伪造”,还可以 增加老照片的分辨率 ,让模糊的珍贵老照片能够一键变“高清”,甚至还原。 在 医疗领域 ,利用AI技术,可以更好地提高医学影像采集效率与图像质量,实现更准确的诊断与治疗。

  但是,自Deepfake换脸技术出现后,就存在巨大争议。 一旦使用AI技术“造假”的视频也日渐增多,随之带来的 隐私泄露 、 诈骗风险 等令人担忧。 而且,随着技术的进步,通过大数据和机器学习等算法,AI解构信息后,就能完美地生成他人的声音和形象信息。 此类视频变得越来越真假难辨,引发人们的担忧。

  2017年,一名叫“Deepfake”的用户在美国Reddit论坛上传了多段“嫁接”好莱坞女明星脸的色情视频,引发网民热烈讨论。之后,开源的代码便如同火种一般,让曾经只有专业电影、电视制作机构才能完成的视频换脸变得轻而易举。普通用户们 只需要收集目标对象的大量照片 就可以使用这些开源的算法制做出假视频。

  除了影视娱乐圈外,AI换脸所引发的 负面效益 甚至蔓延到美国政坛。 2018年,一段美国前总统奥巴马吐槽特朗普是笨蛋的假视频在Twitter走红。

  2019年5月,美国众议院议长南希·佩洛西的假视频也在Facebook上广泛流传。 视频被人为编辑放慢了速度,视频中的佩洛西如同喝醉了一般,改变了语调,神志不清,说话磕磕巴巴,举止奇怪。 这段视频甚至引来了美国总统特朗普的嘲讽。

  因为Facebook删除佩洛西的这段视频,马克·扎克伯格也被人恶搞,在恶搞视频中他在其中大谈如何“控制数十亿人泄漏的数据”,而原始素材来自扎克伯格两年前一则毫不相关的视频。

  但是Facebook却对其表示,由于佩洛西的这段视频只是使用了常规剪辑,该视频不属于deepfake。因此只是减少了其分发,并 拒绝对这条视频进行删除 。这一做法也招致了广泛批评,因此Facebook此次推出的“新政”也因此充满争议。

  那么,新政策和新技术能否制止“ 变异 ”的Deepfake?

  新政引争议

  Facebook如今对此类换脸视频郑重其事的打击,也是因为此前有消息称,2016年美国所有选举(包括总统大选,也包括地方和各州选举)中的参选者可能都在网络广告上花费了 超过10亿美元 。

  通过Facebook进行宣传,参选者可以比在其他大众传媒如电视上做广告更直接地影响目标观众,因为他们可以 用政治事务中可能存在的利益吸引特定区域的选民 。而在2016年的美国大选中,假新闻在Facebook平台上疯狂传播,一度影响选举,也导致Facebook名声一落千丈。

  过去两年多来,因Facebook遭遇了用户隐私泄露、“黑公关”等丑闻,也饱受外界的广泛质疑。 为此Facebook也做了如识别虚假帐号和协调活动、阻止有害内容的传播等改进和改变。

  2020年1月6号,Facebook高管Monika Bickert在博客中表示,Facebook将删除通常被称作“深度仿冒”(deepfake)的视频。1月8日消息,Facebook方面表示, 将禁止发布由AI深度操纵的视频 。这是该公司为打击平台上假信息而做出的一系列调整中的最新一步。

  可以看出,Facebook的新政策也是为了安抚议员、学者和政治竞选团队。 但是对于Facebook处理政治类内容的方式,也引起了众多质疑。

  因为该政策对于控制假信息视频的传播效果有限,因为绝大多数此类视频,是以传统的手动删除背景信息或调整语序等方式来编辑的。 对此专业的研究人员将它称作“ 浅层仿冒 ”视频,即用简单的视频编辑软件剪辑出欺骗性内容,这与由AI产生的深度仿冒视频仍有相当大的不同。

  新技术能解决这类危险吗?

  除了政策上进行严格规范以外,近日微软亚洲研究院和北京大学最近联合发表 2篇 重量级学术论文,提出了FaceShifter( 一种高保真、能够感知遮挡的AI“换脸工具” )和FaceX-Ray( 针对伪造人脸图像的通用检测工具,在取得业界领先的性能的同时,所需数据量也较少 ),这两种新技术在以往的人脸识别AI技术上又更新了。

  FaceShifter是通过采用 两层 框架结构。第一部分通过充分 自适应对目标属性进行挖掘和集成 ,生成高清换脸图片。使用新的属性编码器,提取多级目标的人脸属性,利用自适应注意力非正规化(AAD)层的新生成器整合人脸合成图片的特征和属性。 

  第二部分主要 解决面部遮挡问题 ,这部分包括一个新的启发式错误确认细化网络(HEAR-Net)。训练后,可以以自监督的方式恢复图像的异常区域,无需任何手动注释。

  过去换脸应用的主要困难在于 提取面部特征 ,然后将两张图的特征和属性组合在一张图中,因此还是有许多地方存在肉眼可见的差别。 但是根据实验表明,用FaceShifter生成的换脸图片结果不仅在感观上更真实、更具吸引力,而且还保留了原图像更多的特征。

  而Face X-Ray是 不需要依赖于与特定人脸操作技术相关的伪影知识 ,并且支持它的算法可以在不使用任何方法生成假图像的情况下进行训练。

  与现有方法不同的是,Face X-Ray不需要事先知道操作方法或人工监督,而是生成灰度图像,显示给定的输入图像是否可以分解为来自不同来源的两个图像的混合。 研究结果表明,Face X-Ray能有效地识别出未被发现的假图像,并能可靠地预测混合区域。

  FaceShifter被专家称为,目前最先进的AI和机器学习算法,不仅可以生成栩栩如生的位置和物体的图像,还擅长将人脸头像从一个人换成另一个人的。 而FaceX-Ray更是誉为可秒杀Deep learning,但是研究人员也指出, 这个方法依赖于一个混合步骤,因此可能不适用于完全合成图像,可能被对抗性样本产生错误的结论 。

  因此研究人员也还在不断加深此类研究,希望能够开发出更精确的检测Deepfake假图像的识别工具。 不论怎么说,这也是迈向通用化面部伪造图像检测工具的成功一步。

  除此以外,Facebook、微软等斥资1000多万美元举办deepfake检测挑战赛。 谷歌还宣布开源大型deepfake视频数据集,以支持社区对deepfake检测的研究。

  各国发出禁令管制

  2019年8月,一款名为“ZAO”的AI换脸软件刷屏朋友圈。 只需在手机上安装这款APP,用一张正脸照就可以将视频中的人物的脸替换成照片的脸,从而实现一键“换脸”。

  但就在“ZAO”流行的同时,除了暗藏隐私泄露“大坑”,在这款APP用户协议上,也存有很多“陷阱”,比如提到使用者的肖像权为“全球范围内免费、不可撤、永久可转授权”等。 说明如果侵权了明星肖像,对方提起法律诉讼,则最后责任都在用户。 且这些用户协议条款是无法注销的,为此引发了很多争议,最后APP“昙花一现”,渐渐被人淡忘。

  因此针对未来换脸可能带来的风险,国家有关部门也及时做出部署。 2019年11月底,国家互联网信息办公室、文化和旅游部、国家广播电视总局联合印发《 网络音视频信息服务管理规定 》。

  其中要求利用新技术与新应用制作、发布、传播非真实音视频信息的,应当以 显著方式予以标识 ; 网络音视频信息服务提供者发现使用者利用基于深度学习、虚拟现实等的虚假图像、音视频生成技术制作、发布、传播谣言的,应当及时 采取相应的辟谣措施 等针对换脸技术的新规定。 新规已于今年 1月1日 正式实施。

  另外2019年12月,国家互联网信息办公室印发《 网络信息内容生态治理规定 》,明确网络信息内容服务使用者和网络信息内容生产者、网络信息内容服务平台不得利用深度学习、虚拟现实等新技术新应用从事法律、行政法规禁止的活动。 新规也将于今年 3月1日 正式实施。

  虽然技术本身无罪,但应该更加负责任的来使用技术。除了引发舆论与行业自省之外,早日研究出适用技术规范的行业法规政策也是重要一步。中国早在2017年推出《 新一代人工智能发展规划 》时就提出要初步建立部分领域的人工智能伦理规范。2019年十三届全国人大二次会议更是将与人工智能密切相关的立法项目,如 数字安全法、个人信息保护法和修改科学技术进步法 等,列入会议的五年立法规划中。

  在国外亦是如此,美国加州通过 两项立法 ,禁止发布、传播Deepfake类视频,如有发现自己的头像被用于Deepfake换脸视频,可提起起诉,进一步限制人脸识别等技术的应用。欧盟则在2018年发布了《 通用数据保护条例 》,将用于识别身份的生物特征定义为敏感数据。

  人工智能技术不仅在改变着科技生活发展,也在不断重塑着人类社会。同时,人工智能种种问题也逐随之出水面,如何 完善人工智能相关法律法规 ,做到既能打破既有规则摆脱束缚,又能防范因技术滥用而造成的负面影响和危害。对于任何国家和企业来说都是考验,也是整个行业发展不得不面临的问题。因此,人工智能的规范治理已经是全世界共同面临的重要挑战之一。

   

更多
· 推荐阅读
0
1
扫码下载股市教练,随时随地查看更多精彩文章
发 布
所有评论(1
  • 1
  • TOP
本文纯属作者个人观点,仅供您参考、交流,不构成投资建议!
请勿相信任何个人或机构的推广信息,否则风险自负