高级聊天机器人的发布 ChatGPT 2022 年，每个人都在谈论人工智能 (AI)。 其复杂的功能加剧了人们对人工智能变得如此先进以至于我们很快将无法控制它的担忧。 这甚至导致一些专家和行业领袖警告说 科技可能导致人类灭绝.
但其他评论员并不相信。 语言学教授诺姆·乔姆斯基 (Noam Chomsky) 将 ChatGPT 斥为“高科技抄袭“。
多年来，我对人工智能对人类生存和环境的影响前景感到放松。 那是因为我一直认为它是 人类的向导或顾问。 但人工智能做出决策（施加执行控制）的前景是另一回事。 现在它正受到人们的认真对待。
我们不应该让人工智能拥有执行力的关键原因之一是它完全缺乏对决策至关重要的情感。 没有情感、同理心和道德指南针，你就创造了 完美的精神病患者。 由此产生的系统可能非常智能，但它缺乏人类情感核心，无法衡量理性决策可能带来的潜在破坏性情感后果。
当人工智能接管执行控制权时
重要的是，如果我们要 让它负责核武库。 控制位置的数量本质上是没有限制的，从这些位置上它可以造成难以想象的损害。
例如，考虑一下人工智能如何识别和组织建立自己的温室所需的信息。 该技术的当前迭代可以 有效地指导您完成每一步 构建并防止许多初学者的错误。 但在未来，人工智能可能会充当项目经理，通过选择承包商并直接从预算中支付费用来协调构建。
人工智能已经被应用于信息处理和数据分析的几乎所有领域——从 模拟天气模式 至 控制无人驾驶车辆 至 帮助进行医疗诊断。 但这就是问题开始的地方——当我们让人工智能系统从顾问的角色迈向执行经理的关键一步时。
而不是仅仅建议补救措施 公司账户，如果人工智能得到直接控制，能够执行追偿债务、进行银行转账和利润最大化的程序，并且对如何做到这一点没有限制，会怎么样。 或者想象一下人工智能系统不仅提供 基于 X 射线的诊断，但被赋予直接开出治疗或药物处方的权力。
你可能会开始对这种情况感到不安——我当然会的。 原因可能是你的直觉认为这些机器并不真正有“灵魂”。 它们只是旨在 消化大量信息以简化复杂数据 转化为更简单的模式，让人类能够更有信心地做出决定。 他们没有也不可能有情感，而情感与生物感官和本能密切相关。
情感和道德
情商 是管理情绪以克服压力、同理心和有效沟通的能力。 在决策过程中，这一点可以说比单纯的情报更重要，因为最好的决策并不总是最理性的。
智能（即推理和逻辑操作的能力）很可能可以嵌入到人工智能驱动的系统中，以便他们能够做出理性的决策。 但想象一下，要求一个具有执行能力的强大人工智能来 解决气候危机。 它可能要做的第一件事就是大幅减少人口。
这个推论不需要太多解释。 几乎从定义上来说，我们人类就是各种可能形式的污染源。 砍掉人类和气候变化将得到解决。 人们希望，这不是人类决策者会做出的选择，但人工智能会找到自己的解决方案——难以理解且不受人类对造成伤害的厌恶所阻碍。 如果它拥有执行权，可能就没有任何事情可以阻止它的进行。
赋予人工智能在空中交通管制中做出执行决策的能力可能是一个错误。 戈罗坚科夫/ Shutterstock
破坏场景
搞破坏怎么办 控制食品农场的传感器和监视器？ 这种情况一开始可能会逐渐发生，将控制推到一个临界点，这样就不会有人注意到农作物受到了谴责。 在某些情况下，这可能很快导致饥荒。
或者，关闭全球空中交通管制，或者干脆让所有在同一时间飞行的飞机坠毁怎么样？ 通常大约有 22,000 架飞机同时飞行，这可能导致数百万人死亡。
如果您认为我们还远未陷入这种情况，请再想一想。 人工智能已经可以驾驶汽车并且 驾驶军用飞机，自主地。
或者，关闭世界广大地区的银行账户访问权限如何？ 引发内乱 一次到处？ 或者关闭 计算机控制的加热系统 是在隆冬，还是在盛夏的空调系统？
简而言之，人工智能系统不一定要负责核武器才能对人类构成严重威胁。 但是，当我们谈论这个话题时，如果人工智能系统足够强大和智能，它可以找到一种方法来假装对拥有核武器的国家进行攻击，从而引发人类发起的报复。
人工智能会杀死大量人类吗？ 从理论上来说，答案是肯定的。 但这在很大程度上取决于人类决定给予其执行控制权。 我真的想不出还有什么比能够做出决策并有能力执行决策的人工智能更可怕的了。
关于作者
纪尧姆·蒂埃里（Guillaume Thierry），认知神经科学教授， 班戈大学
