研究人员如何为即将到来的Deepfake宣传浪潮做准备

研究人员如何为即将到来的Deepfake宣传浪潮做准备
AI驱动的检测器是发现AI生成的假视频的最佳工具。
华盛顿邮报通过Getty Images

一名调查记者从一位匿名举报人那里收到一个视频。 它显示了总统承认非法活动的候选人。 但是这部影片真实吗? 如果是这样,那将是一个巨大的新闻-一生的独家消息-并可能完全扭转即将到来的选举。 但是记者通过专门的工具运行该视频,告诉她该视频看起来并不真实。 实际上,这是“deepfake”,将人工智能与 深入学习.

全世界的记者很快就会使用这样的工具。 几年后,每个人甚至都可以使用这种工具在其社交媒体供稿中根除假冒内容。

As 研究人员 谁在研究Deepfake检测 并为记者开发工具,我们看到了这些工具的未来。 但是,它们并不能解决我们所有的问题,它们只是更广泛的反虚假信息斗争中的一部分。

Deepfake的问题

大多数人都知道您无法相信看到的一切。 在过去的几十年中,精明的新闻消费者已经习惯于看到使用照片编辑软件处理的图像。 视频是另一个故事。 好莱坞导演可以在特殊效果上花费数百万美元,以构成一个逼真的场景。 但是,使用Deepfake,拥有几千美元的计算机设备并花费数周时间的业余爱好者可以使生活变得几乎真实。

Deepfake使人们可以进入从未有过的电影场景– 认为汤姆·克鲁斯扮演钢铁侠 –娱乐视频。 不幸的是,这也使得创建 未经同意的色情 所描绘的人。 到目前为止,滥用深造技术时,这些人,几乎是所有妇女,都是最大的受害者。

Deepfake还可用于制作政治领导人录像带,说他们从未说过的话。 比利时社会党发布了低质量的非伪造影片,但仍然是伪造的录像带, 特朗普总统侮辱比利时,它的反应足以显示更高质量的深造品的潜在风险。


加州大学伯克利分校的Hany Farid解释了如何制作假货。

从InnerSelf获取最新信息


也许 最可怕的,它们可以用来创建 对真实视频内容的怀疑,暗示它们可能是假货。

考虑到这些风险,能够检测出深层造假并对其进行清晰标记将非常有价值。 这样可以确保假视频不会欺骗公众,并且可以将真实视频视为真实视频。

发现假货

Deepfake检测作为研究领域已经开始有点 三年前。 早期工作的重点是检测视频中的可见问题,例如 没有眨眼的假货。 随着时间的流逝, 假货变得更好 模仿真实的视频,使人和检测工具变得更难发现。

Deepfake检测研究分为两大类。 首先涉及 看人的行为 在视频中。 假设您有很多有关名人的视频,例如奥巴马总统。 人工智能可以使用该视频来学习他的模式,从手势到讲话停顿。 然后可以 看着他的假货 并注意它与那些模式不匹配的地方。 即使视频质量本质上是完美的,这种方法也可以工作。


SRI International的亚伦·劳森(Aaron Lawson)介绍了一种检测伪造品的方法。

其他研究人员 包括我们的团队,一直专注于 差异所有的假货都有 与真实视频相比Deepfake视频通常是通过合并单独生成的帧以形成视频而创建的。 考虑到这一点,我们的团队的方法会从视频的各个帧中的面部提取基本数据,然后通过并发帧集对其进行跟踪。 这使我们能够检测从一帧到另一帧的信息流中的不一致。 对于伪造的音频检测系统,我们也使用类似的方法。

这些细微的细节很难让人看到,但表明伪造品并不完全 完美却。 这样的侦探可以为任何人工作,而不仅仅是少数世界领导人。 最后,可能需要两种类型的Deepfake检测器。

最新的检测系统在专门为评估工具而收集的视频上表现良好。 不幸的是,即使是最好的型号 在网上找到的视频效果很差。 下一步的关键是使这些工具更强大和有用。

谁应该使用Deepfake检测器?

理想情况下,所有人都可以使用Deepfake验证工具。 但是,这项技术尚处于发展初期。 研究人员需要改进工具并保护它们免受黑客攻击,然后再广泛发布它们。

但是,与此同时,想要欺骗公众的任何人都可以使用制作深造工具。 坐在场外不是一个选择。 对于我们的团队而言,正确的平衡是与记者合作,因为他们是防止误传信息的第一道防线。

在发布故事之前,记者需要验证信息。 他们已经有了经过实践检验的方法,例如与消息来源核对并让多个人来验证关键事实。 因此,通过将工具投入他们的手中,我们为他们提供了更多信息,并且我们知道他们不会仅仅依靠该技术,因为它可能会出错。

探测器能赢得军备竞赛吗?

看到来自 Facebook微软 投资技术以了解和检测深造。 该领域需要更多的研究以跟上Deepfake技术的发展速度。

记者和社交媒体平台还需要弄清楚如何在检测到深造假时向人们发出警告。 研究表明 人们记得谎言,但事实并非如此。 假视频也一样吗? 仅在标题中加上“ Deepfake”可能不足以抵消某些虚假信息。

Deepfake在这里停留。 随着人工智能变得越来越强大,管理虚假信息和保护公众将比以往更具挑战性。 我们是一个不断发展的研究社区的一员,该社区正在应对这种威胁,而在其中,检测只是第一步。谈话

作者简介

John Sohrawardi,计算机与信息科学博士学位, 罗彻斯特理工学院 和计算机安全教授Matthew Wright, 罗彻斯特理工学院

本文重新发表 谈话 根据知识共享许可。 阅读 原版的 文章,.

enafarZH-CNzh-TWnltlfifrdehiiditjakomsnofaptruessvtrvi

按照InnerSelf

Facebook的图标Twitter的图标RSS图标

通过电子邮件获取最新的

{emailcloak = OFF}

我在朋友的帮助下过得很快

编者的话

InnerSelf通讯:18,2020年10月
by InnerSelf员工
如今,我们生活在小型泡泡中……在我们自己的家中,在工作中和在公共场合,也许在我们自己的思想和情感中。 然而,生活在泡沫中,或感觉像我们…
InnerSelf通讯:11,2020年10月
by InnerSelf员工
人生是一段旅程,就像大多数旅程一样,人生伴随着跌宕起伏。 就像白天总是在夜晚之后一样,我们的个人日常经历也是如此,从黑暗到光亮,以及来回往返。 然而,…
InnerSelf通讯:4,2020年10月
by InnerSelf员工
Whatever we are going through, both individually and collectively, we must remember that we are not helpless victims.无论我们正在经历的是个人还是集体,我们都必须记住,我们不是无助的受害者。 We can reclaim our power to carve our own path and to heal our lives, spiritually…我们可以在精神上收回自己的力量,以开拓自己的道路并治愈我们的生活……
InnerSelf通讯:9月27,2020
by InnerSelf员工
人类最大的优势之一就是我们的灵活性,创新能力和开创思维能力。 成为昨天或前一天以外的人。 我们可以改变……
对我有用的:“为了最高的利益”
by Marie T. Russell,InnerSelf
我之所以分享“对我有用的东西”,是因为它也可能对您有用。 如果我做的方式不完全正确,那么由于我们都是独一无二的,因此态度或方法的某些差异很可能是某种……