图片由 苏珊·西普里亚诺
来自编辑：
正如本文所强调的那样，人工智能驱动的政治运动的发展，例如名为 Clogger 的假想机器，可能会严重破坏选举的公正性。 通过利用自动化、量身定制的消息传递和强化学习，这些机器有可能大规模地操纵和改变选民的行为。
在人工智能 (AI) 飞速发展的时代，我们必须对它对我们的民主进程构成的潜在威胁保持警惕。 人工智能驱动的运动的出现挑战了民主的本质。 选举不是由思想的力量、政策建议和真正的选民选择决定的，而是可以被只关注胜利的机器所左右。 盛行的内容将来自 AI 语言模型，而不考虑真相或政治原则。 从本质上讲，选举结果将由人工智能决定，从而侵蚀民主进程。
为了防止“官僚政治”的兴起和公民权力的丧失，我们采取行动至关重要。 增强的隐私保护和强有力的数据隐私法可以帮助限制人工智能机器对个人数据的访问，从而降低它们针对和操纵个人的有效性。 选举委员会还应考虑禁止或严格监管旨在影响选民的人工智能系统。 当 AI 生成的信息用于政治活动时，实施要求明确免责声明的法规。 这可以提供透明度并帮助选民做出明智的决定。
我们必须积极应对这些挑战，并确保负责任地利用人工智能的力量来维护民主原则。 通过维护选举的公正性和选择的自由，我们可以驾驭人工智能的复杂性并维护民主治理的基础。
人工智能如何接管选举——并破坏民主
作者 执政官冯, 公民与自治教授, 哈佛肯尼迪学院 和 劳伦斯·莱斯格, 法学和领导力教授, 哈佛大学
组织能否使用 ChatGPT 等人工智能语言模型来诱导选民以特定方式行事？
参议员 Josh Hawley 在一次采访中向 OpenAI 首席执行官 Sam Altman 提出了这个问题 16 年 2023 月 XNUMX 日，美国参议院听证会 关于人工智能。 奥尔特曼回答说，他确实担心有些人可能会使用语言模型来操纵、说服和与选民进行一对一的互动。
奥特曼没有详细说明，但他可能已经想到了这种情况。 想象一下，政治技术专家很快就会开发出一种名为 Clogger 的机器——一种在黑匣子中进行的政治运动。 Clogger 不懈地追求一个目标：最大限度地提高其候选人（购买 Clogger Inc. 服务的竞选活动）在选举中获胜的机会。
虽然像 Facebook、Twitter 和 YouTube 这样的平台使用人工智能的形式来让用户 花更多时间 在他们的网站上，Clogger 的 AI 会有不同的目标：改变人们的投票行为。
Clogger 的工作原理
RedFern 政治学家 的网络 法律学者 研究技术与民主的交集，我们相信像 Clogger 这样的东西可以使用自动化来显着增加规模和潜在的有效性 行为操纵和微目标技术 自 2000 年代初以来，政治运动就一直使用这种方式。 就像 广告商使用您的浏览和社交媒体历史记录 现在单独针对商业和政治广告，Clogger 会单独关注你——以及数亿其他选民。
与当前最先进的算法行为操纵相比，它将提供三项进步。 首先，它的语言模型会生成为您量身定制的消息——文本、社交媒体和电子邮件，可能还包括图片和视频。 虽然广告商有策略地投放相对较少的广告，但诸如 ChatGPT 之类的语言模型可以在活动过程中为您个人生成无数独特的消息，并为其他人生成数百万条消息。
其次，Clogger 会使用一种叫做 强化学习 生成一系列消息，这些消息越来越有可能改变您的投票。 强化学习是一种机器学习、反复试验的方法，在这种方法中，计算机采取行动并获得有关哪种方法效果更好的反馈，以学习如何实现目标。 可以玩围棋、国际象棋和许多视频游戏的机器 比任何人都好 用过强化学习。
强化学习的工作原理。
第三，在活动过程中，Clogger 的消息可能会演变，以考虑您对机器先前发送的响应以及它了解的关于改变他人想法的知识。 随着时间的推移，Clogger 将能够与您以及数百万其他人进行动态“对话”。 Clogger 的消息类似于 跟随您的广告 跨越不同的网站和社交媒体。
人工智能的本质
另外三个功能（或错误）值得注意。
首先，Clogger 发送的消息在内容上可能具有也可能不具有政治性。 该机器的唯一目标是最大化选票份额，并且它可能会设计出任何人类竞选者都不会想到的实现这一目标的策略。
一种可能性是向可能的反对选民发送有关他们在体育或娱乐方面的非政治热情的信息，以掩盖他们收到的政治信息。 另一种可能性是发送令人反感的消息——例如失禁广告——时间安排与对手的消息一致。 另一个是操纵选民的社交媒体朋友圈，让他们觉得他们的社交圈支持其候选人。
其次，Clogger 不尊重事实。 事实上，它无法知道什么是真或假。 语言模型“幻觉” 这对这台机器来说不是问题，因为它的目的是改变你的投票，而不是提供准确的信息。
第三，因为它是一个 黑匣子类型的人工智能，人们将无法知道它使用了什么策略。
可解释人工智能领域旨在打开许多机器学习模型的黑匣子，让人们能够理解它们是如何工作的。
独裁统治
如果共和党总统竞选团队要在 2024 年部署 Clogger，那么民主党竞选团队可能会被迫以同样的方式做出回应，也许会使用类似的机器。 叫它道格。 如果竞选经理认为这些机器是有效的，那么总统竞选很可能会归结为 Clogger vs. Dogger，获胜者将是更有效机器的客户。
政治学家和权威人士对于为什么一种或另一种人工智能盛行会有很多说法，但可能没有人真正知道。 总统当选不是因为他或她的政策建议或政治理念说服了更多的美国人，而是因为他或她拥有更有效的人工智能。 赢得当天胜利的内容将来自一个完全专注于胜利的人工智能，没有自己的政治思想，而不是来自候选人或政党。
在这个非常重要的意义上，赢得选举的是机器而不是人。 选举将不再是民主的，尽管民主的所有普通活动——演讲、广告、信息、投票和计票——都会发生。
然后，AI 当选的总统可以采取两种方式之一。 他或她可以利用选举的外衣来推行共和党或民主党的政策。 但由于政党理念可能与人们以他们的方式投票的原因无关——Clogger 和 Dogger 不关心政策观点——总统的行动不一定反映选民的意愿。 选民会被人工智能操纵，而不是自由选择他们的政治领导人和政策。
另一条路径是总统追求机器预测的信息、行为和政策，以最大限度地提高连任的机会。 在这条道路上，总统除了维持权力之外没有特别的平台或议程。 在 Clogger 的指导下，总统的行动最有可能是在操纵选民，而不是为他们的真正利益服务，甚至不是为总统自己的意识形态服务。
避免 Clogocracy
如果候选人、竞选活动和顾问都放弃使用这种政治人工智能，就有可能避免人工智能操纵选举。 我们认为这不太可能。 如果开发出政治上有效的黑匣子，使用它们的诱惑几乎是无法抗拒的。 事实上，政治顾问很可能会根据他们的职业职责要求使用这些工具来帮助他们的候选人获胜。 而一旦一位候选人使用了如此有效的工具，就很难指望对手会单方面缴械抵抗。
加强隐私保护 有助于. Clogger 将依靠对大量个人数据的访问来锁定个人，制作量身定制的信息以说服或操纵他们，并在活动过程中跟踪和重新定位他们。 公司或政策制定者否认该机器的每一点信息都会降低它的效率。
强有力的数据隐私法可以帮助引导人工智能远离操纵。
另一个解决方案在于选举委员会。 他们可以尝试禁止或严格监管这些机器。 有一个 激烈的辩论 关于是否这样 “复制人”演讲，即使它本质上是政治性的，也可以受到监管。 美国的极端言论自由传统 导致许多领先的学者说它不能.
但没有理由将第一修正案的保护自动扩展到这些机器的产品。 国家很可能会选择赋予机器权利，但这应该是基于当今挑战的决定， 不是错误的假设 詹姆斯麦迪逊在 1789 年的观点旨在应用于人工智能。
欧盟监管机构正朝着这个方向努力。 政策制定者修改了欧洲议会的人工智能法案草案，指定“人工智能系统在竞选活动中影响选民” 作为“高风险” 并接受监管审查。
一个在宪法上更安全的步骤，如果更小，已经被部分采用 欧洲互联网监管机构 和 加利福尼亚州，是为了禁止机器人冒充人。 例如，当活动信息包含的内容是由机器而非人类生成时，法规可能要求活动信息附带免责声明。
这就像广告免责声明要求——“由 Sam Jones 为国会委员会支付”——但经过修改以反映其 AI 来源：“这个 AI 生成的广告由 Sam Jones 为国会委员会支付。” 更强大的版本可能需要：“这条由 AI 生成的消息是由 Sam Jones 国会委员会发送给你的，因为 Clogger 预测这样做会使你投票给 Sam Jones 的机会增加 0.0002%。” 至少，我们相信选民应该知道什么时候是机器人在和他们说话，他们也应该知道为什么。
像 Clogger 这样的系统的可能性表明，通向 人类集体剥夺权力 可能不需要一些超人 人工智能. 它可能只需要过度热切的活动家和顾问，他们拥有强大的新工具，可以有效地按下数百万人的许多按钮。
作者简介
编辑补充：人工智能接管选举和破坏民主的潜力是一个迫切需要我们关注的问题。 正如本文所强调的那样，像 Clogger 这样由人工智能驱动的政治运动的兴起可能会重塑选举结果，机器会以前所未有的规模影响选民的行为。 这种转变的后果将是深远的，因为选举不是由人民的意愿决定的，而是由人工智能操纵的有效性决定的。
为了防止公民被剥夺权力并维护民主，我们必须采取积极措施。 强有力的隐私保护和限制人工智能系统在选举中影响的法规至关重要。 通过确保透明度、对 AI 生成的内容执行明确的免责声明并促进负责任地使用 AI，我们可以维护民主进程的完整性并保护我们社会的基本价值观。
我们必须保持警惕并共同努力应对人工智能在选举中带来的挑战。 通过这样做，我们可以维护支撑我们社会的民主理想，并确保未来技术的力量与人民的利益和愿望保持一致。
相关书籍：
论暴政：二十世纪的二十个教训
通过蒂莫西·斯奈德
这本书提供了维护和捍卫民主的历史教训，包括制度的重要性、公民个人的作用以及威权主义的危险。
我们的时代到了：力量，目标与为公平的美国而战
通过斯泰西艾布拉姆斯
作者是一名政治家和活动家，分享了她对更具包容性和公正的民主的愿景，并提供了政治参与和选民动员的实用策略。
民主政体如何消亡
史蒂文·莱维茨基和丹尼尔·齐布拉特
这本书研究了民主崩溃的警告信号和原因，借鉴了来自世界各地的案例研究，以提供有关如何维护民主的见解。
人民，没有：反民粹主义简史
托马斯·弗兰克
作者提供了美国民粹主义运动的历史，并批评了他认为扼杀了民主改革和进步的“反民粹主义”意识形态。
一本书或更少的民主：它是如何运作的，为什么它不起作用，以及为什么修复它比你想象的要容易
通过大卫利特
这本书概述了民主，包括它的长处和短处，并提出了改革建议，使该制度更具响应性和问责制。
