未来的历史学家很可能将 2023 年视为人工智能 (AI) 出现的里程碑。但未来是否会证明 乌托邦, 启示录 or 中间某个地方 有人猜测。
二月份，ChatGPT 创下了最快应用程序的记录 100万用户。随后，谷歌、亚马逊、Meta 和其他大型科技公司推出了类似的“大语言”人工智能模型，这些模型看起来有望改变教育、医疗保健和许多其他知识密集型领域。
然而，5 月份的一项研究强调了人工智能的潜在危害 不祥的声明 由主要研究人员签署：
减轻人工智能灭绝的风险应该与流行病和核战争等其他社会规模的风险一起成为全球优先事项。
27月，针对人们对人工智能风险日益增长的担忧，XNUMX个国家（包括英国、美国、印度、中国和欧盟）在英国布莱奇利公园举行的首届人工智能安全峰会上承诺合作，以确保人工智能的安全发展为了 所有人的利益.
为了实现这一目标，研究人员重点关注 人工智能对齐 ——即如何确保人工智能模型符合人类的价值观、偏好和目标。但有一个问题——人工智能所谓的“黑暗的秘密”：大型模型非常复杂，就像一个黑匣子，任何人都不可能完全理解。
人工智能的黑匣子问题
尽管人工智能系统的透明度和可解释性 重要研究目标，这样的努力似乎不太可能跟上创新的疯狂步伐。
黑匣子的比喻解释了为什么人们对人工智能的信念五花八门。预测范围从乌托邦到灭绝，许多人甚至相信通用人工智能 (AGI) 很快就会出现 获得知觉.
但这种不确定性使问题变得更加复杂。人工智能的协调应该是一条双向路：我们不仅要确保人工智能模型与人类意图一致，而且还要确保我们对人工智能的信念是准确的。
这是因为我们非常擅长创造符合这些信念的未来，即使我们没有意识到它们。
所谓的“预期效应”，或者自我实现的预言，在心理学中是众所周知的。研究表明，操纵用户的信念不仅会影响他们的行为方式 与人工智能互动，但是人工智能如何 适应用户.
换句话说，我们的信念（有意识或无意识）如何影响人工智能可能会增加任何结果的可能性，包括灾难性的结果。
人工智能、计算、逻辑和算术
我们需要更深入地探索以了解人工智能的基础——就像爱丽丝梦游仙境一样，走进兔子洞，看看它会把我们带到哪里。
首先，什么是人工智能？它在计算机上运行，自动计算也是如此。从它的起源来看，“感知” – 神经生理学家于 1943 年用数学方法定义的人工神经元 沃伦·麦卡洛克 和逻辑学家 沃尔特·皮茨 – 人工智能与认知科学、神经科学和计算机科学交织在一起。
这种收敛 头脑, 大脑 和 机 人们普遍认为，由于人工智能是由机器进行计算，因此自然智能（心智）必定是由大脑进行计算。
但什么是计算呢？ 19 世纪末，数学家 理查德·戴德金 和 朱塞佩·皮亚诺 提出了一组公理 用逻辑定义算术，并激发了将所有数学建立在安全基础上的尝试 正式基础.
虽然逻辑学家 库尔特·哥德尔 后来证明这个目标是 无法实现的，他的工作是数学家（和密码破译者）的起点 阿兰·图灵。他的 ”图灵机”，一个抽象设备能够 通用计算，是计算机科学的基础。
感知的深层结构
因此，计算是基于数学思想的，这些数学思想可以追溯到逻辑中定义算术的努力。但我们的算术知识是存在的 先于逻辑。如果我们想了解人工智能的基础，我们需要更进一步去问算术本身从何而来。
我和我的同事最近证明算术是基于“深层结构”的感知。这种结构就像有色眼镜一样，以特定的方式塑造我们的感知，使我们对世界的体验变得有序且易于管理。
算术由一组元素（数字）和运算（加法、乘法）组成，这些运算将元素对组合成另一个元素。我们问：在所有可能性中，为什么数字是元素，而加法和乘法是运算？
我们展示了 数学证明 当假设感知的深层结构限制了可能性时，算术就是结果。换句话说，当我们的大脑通过塑造我们对物理世界的体验的“有色眼镜”来观察抽象世界时，它“看到”了数字和算术。
因为算术是数学的基础，所以这意味着数学是心灵的反映——用符号表达其基本性质和创造力。
尽管感知的深层结构与其他动物相同，因此是进化的产物，但只有人类发明了数学。这是我们最亲密的创造——并且通过促进人工智能的发展，也许对我们最重要。
哥白尼式的心灵革命
我们的账户 算术的起源 与18世纪哲学家康德的观点是一致的。他认为，我们对世界的认识是由对空间和时间的“纯粹直觉”构成的，这种直觉先于感官体验而存在——类似于我们永远无法摘除的有色眼镜。
康德声称他的 philosophy 是一场“哥白尼式的心灵革命”。康德认为，就像古代天文学家认为太阳绕着地球旋转一样，因为他们不知道地球的运动，而哲学家则相信所有知识都源自于地球的运动。 感官体验 （例如约翰·洛克和大卫·休谟）忽视了心灵如何塑造感知。
尽管康德的观点是由 他那个时代的自然科学，他们证明了 对当代心理学有影响.
认识到算术是一门 我们感知的自然结果，因此基于生物学，表明我们对计算的理解存在类似的康德式转变。
在数学真理的抽象领域中，计算并不是“外部”的，也不是与我们分离的，而是我们思维本质中固有的。头脑不仅仅是计算；大脑不是计算机。相反，计算——人工智能的基础——就像数学一样，是思维本质和创造力的象征性表达。
普罗米修斯之火
这对人工智能有何影响？首先，人工智能不是思想，永远不会有知觉。我们可以通过将思想上传到云端来超越我们的生物本质并实现永生的想法只是 幻想.
然而，如果人工智能所依据的思维原则为全人类（也可能还有其他生物）所共享，那么就有可能超越我们个人思维的局限性。
因为计算是通用的，所以我们可以在日益互联的虚拟和物理世界中自由地模拟和创建我们选择的任何结果。这样，AI才真正成为我们的 普罗米修斯之火，从众神那里偷来的给人类的礼物，如 希腊神话.
作为一个全球文明，我们可能正处于一个转折点。 AI不会变得有知觉并决定 杀掉我们所有人。但我们非常有能力用它来“启示”自己——期望可以创造现实。
确保人工智能一致性、安全性和安保性的努力至关重要，但如果我们缺乏意识和集体智慧，这可能还不够。像爱丽丝一样，我们需要从梦中醒来，认识到我们思想的现实和力量。
