人工智能系统如何威胁民主

: By 史蒂芬·费尔德斯坦

感谢造访 InnerSelf.com，哪里有 20,000+ 宣传“新态度和新可能性”的改变生活的文章。所有文章均翻译为 30多种语言. 订阅每周出版的《内在自我》杂志和玛丽·T·拉塞尔的《每日灵感》。 InnerSelf杂志 自 1985 年起出版。

美国科技巨头微软已经与一所中国军事大学合作发展人工智能系统这可能会增强政府监督和审查能力。二美国参议员公开谴责伙伴关系，但是什么中国国防科技大学来自微软的想法不是唯一的问题。

As 我的研究表明，数字压制的出现正在深刻地影响着公民与国家之间的关系。新技术正在为政府提供前所未有的监控，跟踪和监视个人的能力。甚至民主国家的政府也有着强烈的传统法治发现自己很想滥用这些新能力.

与各国不负责任的机构和频繁的侵犯人权行为，AI系统很可能会造成更大的伤害。中国是一个突出的例子。它的领导者热情地接受了人工智能技术，并建立了世界的技术最复杂的监督状态 in 新疆省，跟踪市民的日常运动和智能手机使用情况。

它利用这些技术提出了令人不寒而栗的模特同性别的独裁者，对开放的民主社会构成直接威胁。虽然没有证据表明其他政府已经复制了这种级别的人工智能监控，但中国公司正在积极向世界各地出口相同的基础技术。

在美国越来越依赖AI工具

人工智能系统现代世界无处不在，帮助运行智能手机，互联网搜索引擎，数字语音助理和Netflix电影队列。很多人没有意识到由于要分析的数据量不断增加，改进了算法和先进的计算机芯片，人工智能的扩展速度有多快。

任何时候有更多的信息可供使用，分析变得更容易，政府感兴趣 - 而不仅仅是专制的。例如，在美国，1970看到政府机构 - 如FBI，CIA和NSA--已经建立广阔的国内监控网络监督和骚扰民权抗议者，政治活动家和美洲原住民团体。这些问题并没有消失：今天的数字技术加深了更多机构进行更具侵入性监控的能力。

算法在多大程度上预测了警察应该最关注哪些方面？ Arnout de Vries

例如，美国警方急切地接受了人工智能技术。他们已经开始使用软件了意在预测罪行将在何处发生决定在何处派遣巡逻人员。他们也在使用面部识别和 DNA分析在刑事调查中。但对这些系统的分析表明了这一点训练这些系统的数据经常有偏见，导致不公平的结果，如错误地确定非洲裔美国人更有可能犯罪比其他团体。

世界各地的人工智能监控

在专制国家，人工智能系统可以直接帮助国内控制和监视，帮助内部安全部队处理大量信息 - 包括社交媒体帖子，短信，电子邮件和电话 - 更快更有效。警方可以识别社会趋势和具体的人谁可能会根据这些系统发现的信息威胁政权。

例如，中国政府已经在中国境内少数民族聚居地区大规模打击人工智能。新疆和西藏的监视系统被描述为“奥威尔“这些努力包括在内强制性DNA样本，Wi-Fi网络监控和广泛的面部识别摄像头，都连接到集成数据分析平台。根据美国国务院的统计，在这些系统的帮助下，中国当局“任意拘留” 1和2万人.

My 研究着眼于世界各地的90国家政府类型包括封闭的专制国家和有缺陷的民主国家，包括泰国，土耳其，孟加拉国和肯尼亚。我发现中国公司是出口AI监控技术至少这些国家的54。这项技术经常被打包成中国旗舰的一部分带和道路倡议这是一个广泛的公路，铁路，能源管道和电信网络网络服务于世界人口的60％和经济产生全球GDP的40％。

例如，中国公司喜欢华为中兴通讯正在建设“智慧城市” 巴基斯坦, 菲律宾人和肯尼亚，具有广泛的内置监控技术。例如，华为已经装备好了博尼法乔全球城市菲律宾的高清互联网摄像头提供“24 / 7智能安全监控通过数据分析来检测犯罪并帮助管理流量。“

菲律宾Bonifacio Global City拥有大量嵌入式监控设备。 alveo land / Wikimedia Commons

海康威视, Yitu 和 SenseTime 提供最先进的面部识别相机，用于像新加坡 - 宣布建立监测计划 110,000摄像机安装在灯柱上在城邦周围。津巴布韦正在创造一个国家图像数据库可用于面部识别。

然而，出售利润的先进设备不同于具有明确地缘政治目的的共享技术。这些新的能力可能为全球监测埋下了种子：随着各国政府越来越依赖中国的技术来管理其人口和维持权力，他们将面临更大的压力，以配合中国的议程。但目前看来，中国的主要动机是主导新技术市场并在此过程中赚大钱。

AI和虚假信息

除了提供全面和细粒度的监控功能外，AI还可以帮助压制性政府操纵可用信息并传播虚假信息。这些活动可以自动化或自动化辅助和部署超个性化消息针对 - 或反对 - 具体的人或团体。

AI也支持通常被称为“deepfake，“算法创造逼真的视频和音频伪造。在一个紧张的选举中，当一个候选人可以制作虚假的视频来展示对手在做什么和说从未发生过的事情时，在真相和虚构之间徘徊可能会变得有用。

早期的深度视频显示了先进技术的一些危险。

{vembed Y=cQ54GDm1eL0}

在我看来，民主国家的政策制定者应该仔细考虑人工智能系统对他们自己的社会和生活在世界各地专制政权下的人们的风险。一个关键问题是有多少国家将采用中国的数字监控模式。但这不仅仅是专制国家的感觉。此外，不仅仅是中国企业传播技术：许多美国公司，包括微软，但是 IBM，思科和赛默飞世尔也为恶劣的政府提供了复杂的能力。人工智能的滥用并不仅限于专制国家。