人工智能系统如何威胁民主

隐私

美国科技巨头 微软已经与一所中国军事大学合作 发展 人工智能系统 这可能会增强政府监督和审查能力。 二 美国参议员公开谴责 伙伴关系,但是什么 中国国防科技大学 来自微软的想法不是唯一的问题。

As 我的研究表明,数字压制的出现正在深刻地影响着 公民与国家之间的关系。 新技术正在为政府提供前所未有的监控,跟踪和监视个人的能力。 甚至民主国家的政府也有着强烈的传统 法治 发现自己很想滥用 这些新能力.

与各国 不负责任的机构和频繁的侵犯人权行为,AI系统很可能会造成更大的伤害。 中国是一个突出的例子。 它的领导者热情地接受了人工智能技术,并建立了世界的技术 最复杂的 监督状态 in 新疆省,跟踪市民的日常运动和智能手机使用情况。

它利用这些技术 提出了令人不寒而栗的模特 同性别的独裁者,对开放的民主社会构成直接威胁。 虽然没有证据表明其他政府已经复制了这种级别的人工智能监控,但中国公司正在积极向世界各地出口相同的基础技术。

在美国越来越依赖AI工具

人工智能系统 现代世界无处不在,帮助运行智能手机,互联网搜索引擎,数字语音助理和Netflix电影队列。 很多人没有意识到 由于要分析的数据量不断增加,改进了算法和先进的计算机芯片,人工智能的扩展速度有多快。

任何时候有更多的信息可供使用,分析变得更容易,政府感兴趣 - 而不仅仅是专制的。 例如,在美国,1970看到政府机构 - 如FBI,CIA和NSA--已经建立 广阔的国内监控网络 监督和骚扰民权抗议者,政治活动家和美洲原住民团体。 这些问题并没有消失:今天的数字技术加深了更多机构进行更具侵入性监控的能力。

隐私 算法在多大程度上预测了警察应该最关注哪些方面? Arnout de Vries


从InnerSelf获取最新信息


例如,美国警方急切地接受了人工智能技术。 他们已经开始使用软件了 意在预测罪行将在何处发生 决定在何处派遣巡逻人员。 他们也在使用 面部识别 DNA分析 在刑事调查中。 但对这些系统的分析表明了这一点 训练这些系统的数据 经常有偏见,导致 不公平的结果,如 错误地确定非洲裔美国人更有可能犯罪 比其他团体。

世界各地的人工智能监控

在专制国家,人工智能系统可以直接帮助国内控制和监视,帮助 内部安全部队处理大量信息 - 包括社交媒体帖子,短信,电子邮件和电话 - 更快更有效。 警方可以识别社会趋势和 具体的人 谁可能会根据这些系统发现的信息威胁政权。

例如,中国政府已经在中国境内少数民族聚居地区大规模打击人工智能。 新疆和西藏的监视系统被描述为“奥威尔“这些努力包括在内 强制性DNA样本,Wi-Fi网络监控和广泛的面部识别摄像头,都连接到集成数据分析平台。 根据美国国务院的统计,在这些系统的帮助下,中国当局“任意拘留” 1和2万人.

My 研究着眼于世界各地的90国家 政府类型包括封闭的专制国家和有缺陷的民主国家,包括泰国,土耳其,孟加拉国和肯尼亚。 我发现中国公司是 出口AI监控技术 至少这些国家的54。 这项技术经常被打包成中国旗舰的一部分 带和道路倡议这是一个广泛的公路,铁路,能源管道和电信网络网络 服务于世界人口的60% 和经济产生全球GDP的40%。

例如,中国公司喜欢 Huawei 中兴通讯正在建设“智慧城市” 巴基斯坦, 菲律宾人 肯尼亚,具有广泛的内置监控技术。 例如,华为已经装备好了 博尼法乔全球城市 菲律宾的高清互联网摄像头提供“24 / 7智能安全监控 通过数据分析来检测犯罪并帮助管理流量。“

隐私 菲律宾Bonifacio Global City拥有大量嵌入式监控设备。 alveo land / Wikimedia Commons

海康威视, Yitu SenseTime 提供最先进的面部识别相机,用于像 新加坡 - 宣布建立监测计划 110,000摄像机安装在灯柱上 在城邦周围。 津巴布韦正在创造一个 国家图像数据库 可用于面部识别。

然而,出售利润的先进设备不同于具有明确地缘政治目的的共享技术。 这些新的能力可能为全球监测埋下了种子:随着各国政府越来越依赖中国的技术来管理其人口和维持权力,他们将面临更大的压力,以配合中国的议程。 但目前看来,中国的主要动机是主导新技术市场并在此过程中赚大钱。

AI和虚假信息

除了提供全面和细粒度的监控功能外,AI还可以帮助压制性政府操纵可用信息并传播虚假信息。 这些活动可以自动化或自动化辅助和部署 超个性化消息 针对 - 或反对 - 具体的人 或团体。

AI也支持通常被称为“deepfake,“算法创造 逼真的视频和音频伪造。 在一个紧张的选举中,当一个候选人可以制作虚假的视频来展示对手在做什么和说从未发生过的事情时,在真相和虚构之间徘徊可能会变得有用。

早期的深度视频显示了先进技术的一些危险。

在我看来,民主国家的政策制定者应该仔细考虑人工智能系统对他们自己的社会和生活在世界各地专制政权下的人们的风险。 一个关键问题是有多少国家将采用中国的数字监控模式。 但这不仅仅是专制国家的感觉。 此外,不仅仅是中国企业传播技术:许多美国公司,包括微软,但是 IBM,思科和赛默飞世尔 也为恶劣的政府提供了复杂的能力。 人工智能的滥用并不仅限于专制国家。谈话

关于作者

Steven Feldstein,Frank和Bethine教会公共事务主席兼公共服务学院副教授, 博伊西州立大学

本文重新发表 谈话 根据知识共享许可。 阅读 原创文章.

相关书籍

{amazonWS:searchindex =图书;关键字= AI监控; maxresults = 3}

enafarZH-CNzh-TWnltlfifrdehiiditjakomsnofaptruessvtrvi

按照InnerSelf

Facebook的图标Twitter的图标RSS图标

通过电子邮件获取最新的

{emailcloak = OFF}

阅读量最高的

我如何学会让我分心
我如何学会让我分心
by 莎拉·斯坦·卢布拉诺(Sarah Stein Lubrano)
如何负责任地吃鱼
如何负责任地吃鱼
by 珍妮·韦茨曼
记忆是如何由大脑形成和检索的
记忆是如何由大脑形成和检索的
by 本杰明·格里菲斯(Benjamin J. Griffiths)和西蒙·汉斯迈尔(Simon Hanslmayr)
10 27正在进行新的范式转换
如今,物理学和意识正在发生新的范式转变
by Ervin Laszlo和Pier Mario Biava,MD。
饮食如何逆转肾脏疾病
饮食如何逆转肾脏疾病
by 索尼娅费尔南德斯