人工智能不太可能奴役人类，但它可能会接管我们生活的许多方面。 elenabs/iStock 来自 Getty Images
ChatGPT 和类似人工智能系统的兴起伴随着急剧的增长。 对人工智能的焦虑增加。 在过去的几个月里，高管和人工智能安全研究人员一直在提供预测，称为“P（厄运）”，关于人工智能带来大规模灾难的可能性。
2023 年 XNUMX 月，非营利研究和倡导组织人工智能安全中心 (Center for AI Safety) 发布了 一句话陈述：“减轻人工智能带来的灭绝风险应该与流行病和核战争等其他社会规模风险一起成为全球优先事项。” 该声明由该领域的许多关键参与者签署，包括 OpenAI、Google 和 Anthropic 的领导者，以及两位所谓的人工智能“教父”： 杰弗里·欣顿 和 Yoshua Bengio.
你可能会问，这种存在主义的恐惧应该如何发挥作用。 一个著名的场景是“回形针最大化器” 牛津哲学家阐述的思想实验 尼克·博斯特伦。 这个想法是，一个负责生产尽可能多的回形针的人工智能系统可能会不遗余力地寻找原材料，比如摧毁工厂并引发车祸。
A 资源密集型变化较少 有一个人工智能，其任务是为一家受欢迎的餐厅提供预订，并关闭蜂窝网络和交通灯，以防止其他顾客获得餐桌。
办公用品或晚餐，基本思想是一样的：人工智能正在迅速成为一种外星智能，擅长实现目标，但很危险，因为它不一定符合其创造者的道德价值观。 而且，在最极端的版本中，这种争论演变成对人工智能的明确焦虑 奴役或毁灭人类.
制作回形针的人工智能失控是人工智能末日场景的一种变体。
实际伤害
在过去的几年里，我和我的同事们在 麻省大学波士顿应用伦理中心 一直在研究与人工智能的接触对人们对自己的理解的影响，我相信这些灾难性的焦虑是 夸大和误导.
是的，人工智能创建令人信服的深度伪造视频和音频的能力令人恐惧，而且它可能会被恶意的人滥用。 事实上，这种情况已经发生：俄罗斯特工可能试图让克里姆林宫批评者难堪 比尔·布劳德 让他与乌克兰前总统彼得·波罗申科的化身进行对话。 网络犯罪分子一直在使用人工智能语音克隆进行各种犯罪——从 高科技抢劫 至 普通骗局.
人工智能决策系统 提供贷款批准和招聘建议 存在算法偏差的风险，因为它们运行的训练数据和决策模型反映了长期存在的社会偏见。
这些都是大问题，需要政策制定者的关注。 但它们已经存在了一段时间，而且还算不上灾难性的。
不在同一个联赛
人工智能安全中心的声明将人工智能与流行病和核武器并列为文明的主要风险。 这种比较存在问题。 COVID-19 导致几乎 全球7万人死亡，带来了一个 大规模且持续的心理健康危机 并创建 经济挑战，包括长期的供应链短缺和失控的通货膨胀。
核武器可能会杀死 200,000人以上 1945 年在广岛和长崎发生的癌症，在随后的几年里夺走了更多人的生命，在冷战期间引发了数十年的深刻焦虑，并在 1962 年古巴导弹危机期间将世界推向毁灭的边缘。 改变了国家领导人的算计 关于如何应对国际侵略，例如目前俄罗斯入侵乌克兰的情况。
人工智能根本没有能力造成这种伤害。 回形针场景和其他类似场景都是科幻小说。 现有的人工智能应用程序执行特定的任务，而不是做出广泛的判断。 该技术是 远不能做出决定并计划 为了让你在餐馆里有一个座位而封锁交通，或者为了满足你对回形针的渴望而炸毁一家汽车工厂所必需的目标和次要目标。
该技术不仅缺乏这些场景中涉及的多层判断的复杂能力，而且还无法自主访问我们关键基础设施的足够部分来开始造成这种损害。
这是什么意思是人的
事实上，使用人工智能存在固有的生存危险，但这种风险是哲学意义上的生存风险，而不是世界末日的风险。 当前形式的人工智能可以改变人们看待自己的方式。 它会降低人们认为对人类至关重要的能力和经验。
例如，人类是做出判断的生物。 人们在工作和休闲时间理性地权衡细节并做出日常判断，决定雇用谁、谁应该获得贷款、看什么等等。 但这些判断越来越多 自动化并外包给算法。 当这种情况发生时，世界不会终结。 但人们会逐渐失去自己做出这些判断的能力。 人们制作的东西越少，他们制作它们的能力就越差。
或者考虑一下机会在人们生活中的作用。 人类重视偶然的遭遇：偶然遇到一个地方、一个人或一个活动，被吸引进去，并回顾性地欣赏意外在这些有意义的发现中所扮演的角色。 但算法推荐引擎的作用是 减少这种偶然性 并用计划和预测来代替它。
最后，考虑ChatGPT的写入能力。 该技术正在消除高等教育中写作作业的作用。 如果是这样，教育工作者将失去教学学生的关键工具 如何批判性思考.
没有死而是减少了
所以，不，人工智能不会炸毁世界。 但在各种狭隘的背景下，对它的日益不加批判的接受意味着人类一些最重要技能的逐渐侵蚀。 算法已经在削弱人们做出判断、享受偶然遭遇和磨练批判性思维的能力。
人类将在这样的损失中幸存下来。 但在此过程中我们的生存方式将会变得贫乏。 围绕即将到来的人工智能灾难、奇点、天网，或者无论你怎么想，人们的巨大焦虑掩盖了这些更微妙的成本。 回想一下 TS 艾略特著名的结束语“空心人”：“这就是世界终结的方式，”他写道，“不是一声巨响，而是一声呜咽。”
关于作者
尼尔·艾西科维茨，哲学教授兼应用伦理学中心主任， 麻省大学波士顿分校
