深度造假和政治运动的不稳定组合是我们保持警惕的充分理由。 肖恩·安东尼·埃迪创意/E+来自盖蒂图片社
想象一下 十月惊喜 独一无二：距离 5 年 2024 月 XNUMX 日仅一周，一段视频记录揭示了乔·拜登和弗拉基米尔·泽伦斯基之间的秘密会面。 美国和乌克兰总统同意根据“特别紧急成员协议”立即让乌克兰加入北约，并准备对俄罗斯进行核武器打击。 突然间，世界正处于世界末日的边缘。
虽然记者可以指出 不存在这样的协议 社交媒体用户可能会注意到视频中奇怪的类似视频游戏的品质，其他人可能会觉得 他们最担心的事情 已被证实。 当选举日到来时，这些忧心忡忡的公民可能会让视频影响他们的选票，而没有意识到他们刚刚被深度伪造的情况所操纵——这一事件从未真正发生过。
情境深度伪造代表了下一阶段的技术 已经有 动摇了观众对现实的认知。 在我们的研究中 DeFake 项目，我的同事们 罗彻斯特理工学院是， 密西西比大学, 密歇根州立大学 和我 研究深度造假是如何制造的，以及选民可以采取哪些措施来保护自己免受深度造假的侵害。
想象从未发生过的事件
当有人使用人工智能工具时，尤其是使用人工智能工具时，就会产生深度伪造品 深入学习，操纵或生成 面对，以 语音 或者——随着 大型语言模型 喜欢 ChatGPT – 对话语言。 这些可以组合起来形成“情境深度伪造”。
情景深度伪造的基本理念和技术与任何其他深度伪造相同，但具有更大胆的野心：操纵真实事件或凭空捏造事件。 示例包括以下描述 唐纳德·特朗普的罪犯步行 和 特朗普拥抱安东尼·福奇，这两种情况都没有发生。 拥抱镜头是由 Twitter帐户 与总统竞选有关 特朗普的竞争对手罗恩·德桑蒂斯。 一个 攻击广告 共和党全国委员会发布的针对乔·拜登 2024 年竞选活动的内容是 完全由人工智能制作.
在中国、德国、意大利、韩国和美国的 DeFake 项目，我们的 研究发现 深度赝品（包括情景）通常是由某些因素的混合造成的 将一张媒体与另一张媒体相加; 使用视频 对图像进行动画处理或更改另一个视频，被称为木偶戏； 创造出一种媒体，通常使用 生成式人工智能; 或这些技术的某种组合。
需要明确的是，许多情境深度伪造都是出于无辜的目的。 例如， 无限奥德赛杂志 从电影中制作假剧照 从未生产过 or 不可能存在。 但即使是无辜的深度假货也会有理由停下来，就像近乎可信的假照片描绘了 阿波罗登月作为电影制作.
深度造假选举
现在将自己置于试图影响即将到来的选举的人的位置。 您可能想要创造哪些可能的情况？
对于初学者来说，你是否想让投票倾向于或远离特定结果很重要。 也许你会描绘一位候选人英勇地把行人拉出超速行驶的汽车，或者相反，做一些冒犯或犯罪的事情。 Deepfake 场景的格式也很重要。 它可以不是视频，而是一张照片，可能具有模拟智能手机相机或伪造的新闻机构标志的模糊和角度。
您的目标受众将是关键。 您可能不会针对广大选民或政党的基础，而是针对关键投票区的阴谋论者。 您可以将候选人或其家庭成员描绘成参与某项活动 撒旦仪式，参加一个节日 排他性且有争议的 波希米亚树丛，或拥有 与外星人的秘密会面.
如果你有野心和能力，你甚至可以尝试深度伪造选举本身。 2023年XNUMX月，俄罗斯电视台和广播电台遭到黑客攻击 广播全面动员令 由 俄罗斯总统弗拉基米尔·普京的深度伪造。 虽然这在美国大选中更难做到，但原则上任何新闻媒体都可能被黑客攻击，播放其主播的深度造假内容，宣布错误的结果或候选人让步。
捍卫现实
有多种技术和心理方法可以检测和防御情境深度伪造。
在技术方面，所有深度伪造品都包含一些证明其真实性质的证据。 其中一些迹象可以通过人眼看到——例如过于光滑的皮肤或奇怪的灯光或建筑——而另一些则可能是肉眼无法看到的。 只能由深度造假人工智能检测到.
我们正在建设 防伪的探测器使用 AI 来捕捉 Deepfake 的明显迹象，我们正在努力为 2024 年大选及时做好准备。 但即使像我们这样足够强大的深度造假探测器在选举日之前无法部署，作为选民，您也可以使用一些心理工具来识别深度造假：背景知识、好奇心和健康的怀疑态度。
如果您遇到有关某个人、地点或事件的媒体内容看起来不寻常，请相信您的背景知识。 例如，在一个 最近五角大楼发生火灾的骗局，所示的建筑物看起来更像是方形而不是五边形，这可能是一个赠品。
但是，尽量不要完全依赖您的背景知识，这可能是错误的或不完整的。 永远不要害怕从可靠的来源了解更多信息，例如经过事实核查的新闻报道、经过同行评审的学术文章或对有资格的专家的采访。
此外，请注意，深度假货可用于利用您的身份 倾向于相信 关于一个人、一个地方或一个事件。 处理这个问题的最好方法之一就是简单地 意识到你的偏见 对任何似乎证实这些观点的媒体内容都要保持警惕。
即使有可能创造出完美的深度伪造场景，其主题的可信度可能仍然是他们的致命弱点。 因此，无论有没有技术解决方案，你仍然有能力保护选举免受虚假事件的影响。
关于作者
克里斯托弗·施瓦茨, 计算安全博士后研究员, 罗彻斯特理工学院
相关书籍：
论暴政：二十世纪的二十个教训
通过蒂莫西·斯奈德
这本书提供了维护和捍卫民主的历史教训，包括制度的重要性、公民个人的作用以及威权主义的危险。
我们的时代到了：力量，目标与为公平的美国而战
通过斯泰西艾布拉姆斯
作者是一名政治家和活动家，分享了她对更具包容性和公正的民主的愿景，并提供了政治参与和选民动员的实用策略。
民主政体如何消亡
史蒂文·莱维茨基和丹尼尔·齐布拉特
这本书研究了民主崩溃的警告信号和原因，借鉴了来自世界各地的案例研究，以提供有关如何维护民主的见解。
人民，没有：反民粹主义简史
托马斯·弗兰克
作者提供了美国民粹主义运动的历史，并批评了他认为扼杀了民主改革和进步的“反民粹主义”意识形态。
一本书或更少的民主：它是如何运作的，为什么它不起作用，以及为什么修复它比你想象的要容易
通过大卫利特
这本书概述了民主，包括它的长处和短处，并提出了改革建议，使该制度更具响应性和问责制。
