人工智能是极权主义者的梦想 存在Shutterstock。

西方的个人主义社会建立在这样一个思想之上,即没有人比我们更了解我们的思想,欲望或快乐。 因此,我们让自己而不是政府来负责我们的生活。 我们倾向于同意这个哲学家 伊曼纽尔·康德的主张 没有人有权将他们关于美好生活的想法强加给我们。

人工智能(AI)将改变这种状况。 它比我们自己更了解我们。 拥有AI的政府可以声称知道其人民的真正需求以及真正使他们感到高兴的东西。 充其量,它将用它来证明家长式作风,最坏的情况是集权主义。

每个地狱始于天堂的应许。 AI领导的极权主义也没有什么不同。 自由将成为国家的服从。 只有非理性,恶意或颠覆性的人才希望选择自己的道路。

为了防止这种反乌托邦,我们决不能让别人比我们更了解自己。 我们不能允许自我认知的差距。

无所不知的AI

在2019年,亿万富翁投资者彼得·泰尔(Peter Thiel)声称AI是“字面上的共产主义者”。 他指出,人工智能提供了一种集中力量来监视公民,并比他们对自己的了解更多。 蒂尔指出,中国, 渴望拥抱AI.


内在自我订阅图形


我们已经知道AI的潜力 支持极权主义 通过提供奥威尔式的监视和控制系统。 但是人工智能也为极权主义者提供了一种哲学武器。 只要我们比政府更了解自己,自由主义就可以阻止有抱负的极权主义者。

但是人工智能改变了游戏规则。 大型科技公司收集了大量有关我们行为的数据。 机器学习算法使用这些数据不仅计算我们将要做的事情,而且还计算我们是谁。

今天, 人工智能可以预测 我们想要什么样的电影,我们想阅读什么新闻以及我们想和谁成为Facebook上的朋友。 它可以预测是否 夫妻会在一起 如果我们愿意 企图自杀。 从我们的Facebook喜欢, 人工智能可以预测 我们的宗教和政治观点,个性,智力,吸毒和幸福。

AI预测的准确性只会提高。 在不久的将来,作为作家 Yuval Noah Harari 已经暗示,人工智能可能会在我们自己知道之前告诉我们我们是谁。

这些事态发展具有重大的政治意义。 如果政府能够比我们更了解我们,那么就有新的理由介入我们的生活。 他们会以我们自己的利益为名对我们施暴。

暴政的自由

哲学家以赛亚·柏林(Isaiah Berlin)于1958年对此进行了预见。他 确定了两种自由。 他警告说,一种会导致暴政。

消极自由是“自由”。 这是不受他人或政府干预您事务的自由。 只要您不侵犯他人的权利,否定自由就是没有其他人可以约束您。

相反,积极的自由是“自由”。 成为自己的主人的自由,实现自己的真实欲望的自由,过上理性生活的自由。 谁不想要这个?

但是,如果别人说您不是出于您的“真正利益”行事,尽管他们知道您会怎么做。 如果你不听,他们可能 强迫你自由 –强迫您实现自己的“自身利益”。 这是有史以来最危险的想法之一。 它杀死了成千上万人 斯大林的苏联毛的中国.

据报道,俄罗斯共产党领导人列宁曾说过,资本家会把绳子卖给他。 彼得·泰尔(Peter Thiel)辩称 在人工智能中,硅谷的资本主义科技公司已经向共产主义出售了一种威胁破坏民主资本主义社会的工具。 AI是列宁的绳索。

为自己而战

如果没有人比我们更了解我们自己,我们就只能预防这种反乌托邦。 我们绝不能感伤任何出于善意对我们寻求这种权力的人。 从历史上看,这只是一场灾难。

防止自我认知鸿沟的一种方法是提高我们的隐私屏蔽。 泰勒(Thiel)将AI标记为共产主义,他认为“加密货币是自由主义者”。 加密货币可以是“隐私保护”。 隐私会降低他人了解我们的能力,然后利用这些知识来 操纵我们为自己谋利.

但是通过AI更好地了解自己可以带来强大的好处。 我们也许可以使用它来更好地了解什么会使我们快乐,健康和富裕。 可能有帮助 指导我们的职业选择。 一般而言,人工智能 有望创造经济增长让我们远离彼此的喉咙.

问题不是AI可以提高我们的自我认知能力。 问题是 关于我们所知的力量差距。 完全掌握在别人手中的关于我们的知识就是控制我们的力量。 但是掌握关于我们的知识对我们来说是力量。

无论谁 处理我们的数据 建立关于我们的知识应在法律上归还给我们。 我们需要更新“没有我们就没有我们代表AI时代。

AI告诉我们的关于自己的信息是我们要考虑使用的,而不是让其他人从滥用中获利。 我们灵魂的分till上永远只有一只手。 它应该是我们的。谈话

关于作者

Simon McCarthy-Jones,临床心理学和神经心理学副教授, 都柏林圣三一学院(Trinity College)

本文重新发表 谈话 根据知识共享许可。 阅读 原创文章.

打破

相关书籍:

论暴政:二十世纪的二十个教训

通过蒂莫西·斯奈德

这本书提供了维护和捍卫民主的历史教训,包括制度的重要性、公民个人的作用以及威权主义的危险。

点击了解更多信息或订购

我们的时代到了:力量,目标与为公平的美国而战

通过斯泰西艾布拉姆斯

作者是一名政治家和活动家,分享了她对更具包容性和公正的民主的愿景,并提供了政治参与和选民动员的实用策略。

点击了解更多信息或订购

民主政体如何消亡

史蒂文·莱维茨基和丹尼尔·齐布拉特

这本书研究了民主崩溃的警告信号和原因,借鉴了来自世界各地的案例研究,以提供有关如何维护民主的见解。

点击了解更多信息或订购

人民,没有:反民粹主义简史

托马斯·弗兰克

作者提供了美国民粹主义运动的历史,并批评了他认为扼杀了民主改革和进步的“反民粹主义”意识形态。

点击了解更多信息或订购

一本书或更少的民主:它是如何运作的,为什么它不起作用,以及为什么修复它比你想象的要容易

通过大卫利特

这本书概述了民主,包括它的长处和短处,并提出了改革建议,使该制度更具响应性和问责制。

点击了解更多信息或订购