为何技术将人权置于危险之中

为何技术将人权置于危险之中
Spainter_vfx / Shutterstock.com

电影如 2001:太空奥德赛, “银翼杀手” 终结者 将流氓机器人和计算机系统带到我们的电影屏幕上。 但是现在,这样的经典科幻小说眼镜似乎与现实相去甚远。

我们越来越多地使用自主和智能的计算技术来生活,工作和娱乐。 这些系统包括具有独立推理和决策能力的软件和硬件。 他们在工厂里为我们工作; 他们决定我们是否可以获得抵押贷款; 他们跟踪和衡量我们的活动和健康水平; 他们打扫我们的客厅地板,剪掉我们的草坪。

自主和智能系统有可能影响我们社会,经济,政治和私人生活的几乎每个方面,包括平凡的日常生活。 其中大部分似乎是无辜的,但有理由担心。 计算技术影响着每一个人权,从权利到生命,从隐私权,言论自由到社会和经济权利。 那么,我们如何在机器人和人工智能(AI)日益形成的技术领域中捍卫人权呢?

人工智能和人权

首先,人们真的担心增加机器自主权会破坏人类的地位。 当智能机器造成伤害时,无论是在法律上还是在道德上都不清楚谁将被追究责任,这种恐惧更加复杂。 但我不确定我们对人权问题的关注应该真正存在 流氓机器人,就像目前看来一样。 相反,我们应该担心机器人和人工智能的人类使用以及它们在不公正和不平等的政治,军事,经济和社会环境中的部署。

这种担心与致命的自主武器系统(LAWS)特别相关,后者通常被称为杀手机器人。 和我们一样 走向AI军备竞赛,人权学者和活动家,如前联合国法外处决,即决处决或任意处决特别报告员Christof Heyns,担心使用LAWS将自动机器人系统 负责生死决定,有限或无人控制。

AI还彻底改变了战争与监视实践之间的联系。 像这样的团体 国际机器人军备控制委员会(ICRAC) 最近表示反对谷歌参与 Project Maven,一个军事计划,使用机器学习分析无人机监控录像,可用于法外杀戮。 ICRAC 呼吁 谷歌确保其用户收集的数据从未用于军事目的,加入了谷歌员工对公司参与该项目的抗议活动。 谷歌最近宣布了它 不会续约 它的合同。

在2013中,爱德华·斯诺登强调了监督实践的范围 启示。 这些教会了我们很多关于隐私权的威胁以及情报机构,政府机构和私营公司之间的数据共享。 最近的争议围绕着 剑桥分析公司通过使用Facebook等社交媒体平台收集个人数据继续引起严重的担忧,这次是操纵和干涉民主选举,损害言论自由权。


从InnerSelf获取最新信息


同时,关键数据分析师也面临挑 歧视性做法 他们称之为AI的“白人问题”。 这是人工智能系统对现有数据进行培训的问题,这种关注复制了现有的种族和性别陈规定型观念,这些陈规定型观念在警务,司法决策或就业等领域长期存在歧视性做法。

AI可以复制并巩固刻板印象。
AI可以复制并巩固刻板印象。
Ollyy / Shutterstock.com

暧昧的机器人

最近发表的一项研究强调了计算技术对人权以及物理,政治和数字安全的潜在威胁 人工智能的恶意使用。 必须认真对待剑桥大学报告中表达的关切。 但是我们应该如何处理这些威胁呢? 人权是否为机器人和人工智能时代做好了准备?

目前正在努力更新这个时代的现有人权原则。 这些包括 联合国框架和工商业与人权指导原则,试图写一个 Magna Carta为数字时代 和生命研究所的未来 Asilomar AI原则,确定道德研究指导方针,坚持价值观,并致力于人工智能的长期有益发展。

这些努力值得赞扬,但还不够。 政府和政府机构,政党和私营公司,尤其是领先的科技公司,必须致力于人工智能的道德使用。 我们还需要有效和可执行的立法控制。

无论我们采取什么新措施,重要的是要承认我们的生活越来越多地与自动机器和智能系统纠缠在一起。 这种纠缠在医疗研究和治疗,运输系统,社会护理环境以及保护环境的努力等领域增强了人类的福祉。

但在其他领域,这种纠缠引发了令人担忧的前景。 计算技术用于观察和跟踪我们的行为和行为,追踪我们的步骤,我们的位置,我们的健康,我们的品味和我们的友谊。 这些制度塑造了人类的行为,并使我们转向自我监督的做法,这种做法限制了我们的自由,破坏了人权的思想和理想。

谈话这就是关键所在:双重使用计算技术的能力模糊了慈善和恶意行为之间的界限。 更重要的是,计算技术与个体公民,国家及其机构和私营公司之间的不平等权力关系密切相关。 如果从有效的国家和国际制衡制度中解脱出来,它们将对我们的人权构成真正和令人担忧的威胁。

关于作者

Birgit Schippers,访问研究员,参议员George J Mitchell全球和平,安全与司法研究所, 贝尔法斯特女王大学

这篇文章最初发表于 谈话。 阅读 原创文章.

相关书籍

{amazonWS:searchindex = Books; Birgit Schippers = innerself; maxresults = 3}

enafarZH-CNzh-TWnltlfifrdehiiditjakomsnofaptruessvtrvi

按照InnerSelf

Facebook的图标Twitter的图标RSS图标

通过电子邮件获取最新的

{emailcloak = OFF}