人工智能如何有可能彻底改变医疗保健
盖蒂图片社

人工智能 (AI) 发展迅速,将成为临床护理的重要支持工具。 研究表明人工智能算法可以准确 检测黑色素瘤预测未来的乳腺癌.

但在将 AI 整合到常规临床使用之前,我们必须解决算法偏差的挑战。 人工智能算法可能存在固有偏见,可能导致歧视和隐私问题。 人工智能系统也可以在没有必要的监督或人工输入的情况下做出决策。

 人工智能潜在有害影响的一个例子来自 国际项目 旨在通过开发突破性的医疗方法,利用人工智能来拯救生命。 在一项实验中,该团队颠倒了他们的“好”人工智能模型,为新的人工智能模型创造了“伤害”的选项。

在不到六个小时的训练中,反向 AI 算法生成了数万种潜在的化学战剂,比目前的战剂危险得多。 这是一个关于化合物的极端例子,但它可以作为评估人工智能已知和可以想象的不可知伦理后果的警钟。

临床护理中的人工智能

在医学领域,我们处理人们最私密的数据和经常改变生活的决定。 强大的 AI 道德框架势在必行。

澳大利亚癫痫项目 旨在改善人们的生活并使临床护理更广泛。 基于来自数千名癫痫患者的先进脑成像、遗传和认知信息,我们计划使用人工智能来 回答目前无法回答的问题.


内在自我订阅图形


这个人的癫痫发作会继续吗? 哪种药最有效? 脑部手术是可行的治疗选择吗? 这些是现代医学努力解决的基本问题。

作为该项目的 AI 负责人,我主要担心的是 AI 正在快速发展,而监管监督却很少。 这些问题就是为什么我们最近建立了一个 伦理框架 使用 AI 作为临床支持工具。 该框架旨在确保我们的人工智能技术是开放、安全和值得信赖的,同时促进临床护理的包容性和公平性。

那么我们如何在医学中实施 AI 伦理以减少偏见并保持对算法的控制? 计算机科学原则“垃圾输入,垃圾输出”适用于 AI。 假设我们从小样本中收集有偏差的数据。 我们的 AI 算法可能会存在偏差,并且无法在其他临床环境中复制。

在当代人工智能模型中不难找到偏见的例子。 流行的大型语言模型(例如 ChatGPT)和潜在扩散模型(DALL-E 和 Stable Diffusion)展示了如何 明显的偏见 关于性别、种族和社会经济地位的问题可能会发生。

研究人员发现,简单的用户提示会生成使种族、性别和阶级刻板印象永久化的图像。 例如,对医生的提示 主要产生 男医生的图像,这与现实不符,因为经合组织国家大约一半的医生是女性。

医疗人工智能的安全实施

防止偏见和歧视的解决方案并非易事。 在临床研究中实现健康平等和促进包容性可能是其中之一 主要解决方案 打击医疗人工智能中的偏见。

令人鼓舞的是,美国食品和药物管理局最近提出 使多样性成为强制性的 在临床试验中。 该提案代表了朝着较少偏见和基于社区的临床研究迈进。

另一个阻碍进步的障碍是有限的研究经费。 人工智能算法通常需要大量数据,这可能很昂贵。 至关重要的是建立强化的资助机制,为研究人员提供必要的资源,以收集适合 AI 应用的临床相关数据。

我们还认为,我们应该始终了解 AI 算法的内部工作原理,并了解它们是如何得出结论和建议的。 这个概念在人工智能中通常被称为“可解释性”。 它涉及人和机器必须协同工作以获得最佳结果的想法。

我们更愿意将模型中预测的实施视为“增强”而不是“人工智能”——算法应该是过程的一部分,而医学专业必须保持对决策的控制。

除了鼓励使用可解释的算法外,我们还支持透明和开放的科学。 科学家应该公布人工智能模型及其方法的细节,以提高透明度和可重复性。

新西兰 Aotearoa 需要什么来确保 AI 在医疗保健中的安全实施? 人工智能伦理问题主要由该领域的专家领导。 然而,有针对性的 AI 法规,例如基于欧盟的 人工智能法 已经提出,解决这些伦理问题。

欧洲人工智能法受到欢迎,并将保护在“安全人工智能”中工作的人。 英国政府最近发布了他们的 人工智能监管的积极方法,作为其他政府应对人工智能安全的蓝图。

在 Aotearoa,我们主张对 AI 安全采取主动而非被动的态度。 它将建立一个在临床护理和其他领域使用人工智能的道德框架,产生可解释、安全和公正的人工智能。 因此,我们将更加相信这项强大的技术可以造福社会,同时保护社会免受伤害。谈话

关于作者

芒果彼得森, 心理学和神经科学副教授, 奥克兰理工大学

本文重新发表 谈话 根据知识共享许可。 阅读 原创文章.

相关书籍:

身体记录分数:创伤愈合中的大脑和身体

作者:Bessel van der Kolk

这本书探讨了创伤与身心健康之间的联系,提供了治疗和恢复的见解和策略。

点击了解更多信息或订购

呼吸:失落艺术的新科学

通过詹姆斯·内斯特

这本书探讨了呼吸的科学和实践,提供了改善身心健康的见解和技巧。

点击了解更多信息或订购

植物悖论:导致疾病和体重增加的“健康”食品中的隐患

通过 Steven R. Gundry

这本书探讨了饮食、健康和疾病之间的联系,提供了改善整体健康状况的见解和策略。

点击了解更多信息或订购

免疫密码:真正健康和彻底抗衰老的新范式

乔尔·格林

这本书提供了一个关于健康和免疫的新视角,借鉴了表观遗传学的原理,并提供了优化健康和衰老的见解和策略。

点击了解更多信息或订购

完整的禁食指南:通过间歇性、隔日和延长禁食来治愈你的身体

作者:Jason Fung 博士和 Jimmy Moore

本书探讨了禁食的科学和实践,提供了改善整体健康和保健的见解和策略。

点击了解更多信息或订购

关心