freeBuf
主站

分类

漏洞 工具 极客 Web安全 系统安全 网络安全 无线安全 设备/客户端安全 数据安全 安全管理 企业安全 工控安全

特色

头条 人物志 活动 视频 观点 招聘 报告 资讯 区块链安全 标准与合规 容器安全 公开课

官方公众号企业安全新浪微博

FreeBuf.COM网络安全行业门户,每日发布专业的安全资讯、技术剖析。

FreeBuf+小程序

FreeBuf+小程序

知物由学 | 虚假色情泛滥,人工智能可以做些啥?
2018-04-20 10:27:50

“知物由学”是网易云易盾打造的一个品牌栏目,词语出自汉·王充《论衡·实知》。人,能力有高下之分,学习才知道事物的道理,而后才有智慧,不去求问就不会知道。“知物由学”希望通过一篇篇技术干货、趋势解读、人物思考和沉淀给你带来收获的同时,也希望打开你的眼界,成就不一样的你。当然,如果你有不错的认知或分享,也欢迎通过邮件(zhangyong02@corp.netease.com)投稿。

本文作者:Louise Matsakis,《连线》杂志编辑,负责网络安全、互联网法律和网络文化,曾在VICE的科技网站主板和Mashable担任编辑。

AIDetectsDeepfakes.jpg

Gfycat——一个动态图片托管平台,致力于让视频或动态图片的上传和分享更加快速便捷。

作为一个在线动态图片托管平台,公司成立的目的就是要改善21世纪人们对GIF的观看体验。GYF是“GIFFormatYoker”(GIF格式关联)的缩写,这一缩写很好地体现了公司成立的目的,即要把GIF和HTML5视频关联起来。

人脸识别和机器学习的使用已经越来越普遍了,互联网也开始利用这些技术来制作虚假的色情视频。正如Motherboard报道的那样,人们正在制作智能面部交换色情片,将名人的脸换到色情片的女演员上,例如伪造国外明星盖尔·加朵(GalGadot)与她同父异母的哥哥睡在一起的视频。当Reddit、Pornhub和其他社区都在为禁止了deepfakes的内容伤脑时,GIF-hosting公司的Gfycat找到了一个不错的解决方法。

Gfycat表示他们已经找到一种通过人工智能来识别虚假视频的方法。Gfycat已经开始利用这项技术来对其平台的GIF进行审核。这项新技术向人们展示了在未来如何尝试与虚假视频内容对抗。毫无争议的是,随着越来越多类似Snapchat的平台将视频内容引入新闻行业,与虚假视频内容的斗争会越来越激烈。

Gfycat至少拥有两亿活跃用户,它希望能提供一种比Reddit、 Pornhub和Discord更全面的方法来过滤deepfake。Mashable报道称Pornhub未能从其网站上删除一些deepfake视频,包括一些有数百万点击量的视频(这些视频后来在文章发布后被删除)。三月初,Reddit网站禁止了一些deepfake社区,但保留了一些相关的板块,如r/DeepFakesRequests 和r/deepfaux,直到WIRED在报道这个故事的过程中引起他们的注意。

这些努力不该被忽视,但同时,它们也显示了互联网平台的人工运营是有多么困难——特别是当电脑不需要人工,能发现自己的deepfake的时候。

人工智能开始战斗

Gfycat利用人工智能开发了两种工具,它们都以猫科动物命名:Angora项目和Maru项目。当用户将泰勒•斯威夫特(Taylor Swift)的低质量GIF上传到Gfycat时,Angora项目可以在网上搜索更高分辨率的版本以替换它。换句话说,它可以找到斯威夫特同样的演唱剪辑“"ShakeIt Off”,并将这个更好的版本上传。

现在让我们假设你没有标记你的剪辑为泰勒•斯威夫特,但这不是一个问题。据称Maru工程可以区分不同的人脸,并会自动用斯威夫特的名字标记GIF。这从Gfycat的角度来看是有意义的,它希望将每月上传到平台的数百万用户的素材编入索引。

业余爱好者创作的大多数deepfake都不完全可信。因为如果你仔细看,这些帧并不太匹配;在下面这段视频剪辑中(https://youtu.be/5hZOcmqWKzY,PS:需翻墙),唐纳德·特朗普(DonaldTrump)的脸并没有完全覆盖安格拉•默克尔(Angela Merkel)的脸。但是你的大脑做了一些处理,填补了技术无法将一个人的脸变成另一个人的脸的空白。

Maru项目远不如人脑宽容。当Gfycat的工程师通过它的人工智能工具运行deepfake时,它会注册类似于尼古拉斯凯奇(Nicolas Cage),但不足以发出一个肯定的匹配,因为人脸并不是在每一帧中都呈现得完美无缺。使用Maru是Gfycat发现deepfake的一种方法,当GIF仅部分像名人时,它可能就不会特别好使。

Maru项目可能无法单独阻止所有的deepfake,且随着它们变得更复杂,未来也会更加的麻烦。有时,一个deepfake的特征不是名人的脸,而是一个平民,甚至是创作者仅个人认识的人。为了对抗这种变化,Gfycat开发了一种类似于Angora项目的遮蔽技术。

如果Gfycat怀疑某个视频已经被修改以显示其他人的脸,比如Maru没有肯定地说这是泰勒•斯威夫特的,那么公司就可以“屏蔽”受害者的脸,然后搜索是否在其他地方存在身体和背景录像。例如,在特朗普(Trump)的身体上放置他人面孔的视频中,人工智能可以搜索互联网,并打开它借用的原始的国情咨文的视频录像。如果在新的GIF和源文件之间不匹配,人工智能可以断定视频已经被修改了。

Gfycat计划使用它的屏蔽技术来屏蔽更多的人脸,以检测不同类型的虚假内容,比如欺诈天气或科学视频。Gfycat一直非常依赖人工智能来分类、管理和调节内容。Gfycat首席执行官理查德·拉巴特(Richard Rabbat)在一份声明中说,“人工智能的创新步伐加快,有可能极大地改变我们的世界,我们将继续使我们的技术适应这些新的发展。”

不是万无一失

Gfycat的技术在至少在一个feedfake的工作场景中是行不通的:一个在其他地方不存在的脸和身体。例如,两个人在一起拍性爱录像,然后换到别人的脸上。如果没有人参与其中,而且视频在其他地方没有,那么Maru或Angora就不可能知道内容是否被改变了。

目前看来,这是一个相当不可能的情况,因为制作一个deepfake需要访问一个视频和某人的照片。但也不难想象有这样的一个情况,一个前恋人会利用手机上的视频来拍摄受害者,而这些视频从未公开过。

即使是以色情明星或名人为特征的feedfake,有时候人工智能也不确定到底发生了什么,这就是为什么Gfycat雇佣人来帮忙的原因。该公司还使用其他元数据,如共享位置或上传者来确定剪辑是否是一个feedfake。

此外,并非所有的视频都是恶意的。正如电子前沿基金会(Electronicforrention Foundation)在一篇博客文章中指出的那样,上述默克尔/特朗普混搭(Merkel/Trump)之类的例子仅仅是政治评论或讽刺。还有其他合法的理由来使用这种技术,比如匿名化需要身份保护的人,或者创建经双方同意改变的色情作品。

尽管如此,还是很容易看出为什么这么多人会觉得deepfake令人苦恼。它们代表着一个未来的开端,即不可能判断一个视频是真实的还是假的,这可能对宣传及更多的内容产生广泛的影响。俄罗斯在2016年总统选举期间用假机器人淹没了Twitter;在2020年的选举中,可能会对候选人自己的造假视频做同样的事情。

漫长的战斗

虽然Gfycat提供了一种潜在的解决方案,但它可能只是一个时间问题,直到deepfake的创造者学会如何规避它的安全保障。随之而来的斗争可能需要数年时间才能完成。

正如达特茅斯学院(Dartmouth College)的计算机科学教授、专门从事数字取证、图像分析和人类感知的HanyFarid说的:“我们几十年的时间里,你可以在色情网站或Reddit上找到你可以释放的法医技术,并最终从一个虚假的信息中分辨出真实的信息。”如果你真想愚弄这个系统,你就会开始建立起一套破解法医系统的方法。

相关阅读:

知物由学第七期 | 未来安全隐患:AI的软肋——故意欺骗神经网络

知物由学第八期 | 你的网络安全问题背后的真正原因

知物由学第九期 | 基于DNN的人脸识别中的反欺骗机制

如果你受困于色情、渉政等虚假信息,那么你可以尝试用下易盾的反垃圾业务,可点击“阅读原文”一键接入易盾内容安全解决方案。


# 色情主题 # 人工智能安全
本文为 独立观点,未经允许不得转载,授权请联系FreeBuf客服小蜜蜂,微信:freebee2022
被以下专辑收录,发现更多精彩内容
+ 收入我的专辑
+ 加入我的收藏
相关推荐
  • 0 文章数
  • 0 关注者