科幻小说如何将我们从不良技术中拯救出来

科幻小说如何将我们从不良技术中拯救出来
Ahmet Misirligul / Shutterstock

短片《屠杀机器人》描绘了不久的将来,成群的微型无人机因政治信仰而刺杀成千上万的人。 2017于11月发布 由学者和激进主义者警告高级人工智能(AI)的危险,它迅速流行开来,迄今吸引了超过3m个视图。 它帮助激发了 公开辩论 关于自动武器的未来,并对在联合国召开的外交官会议施加压力 常规武器公约.

但是,这种投机科幻故事讲述不仅可以吸引注意力。 设计和构建先进技术的人员可以使用故事来考虑工作的后果并确保将其永久使用。 而且我们认为,这种“科幻原型”或“设计小说”可以帮助防止人类偏见进入新技术,进一步加剧社会的偏见和不公。

偏见可能导致某些类别(结果,人员或思想)相对于其他类别的任意偏好。 例如,某些人可能会偏向于雇用妇女从事行政工作,无论她们是否意识到这一点。 或不.

围绕记录此类偏差的数据构建的技术可能最终会出现 复制问题。 例如,可以设计旨在为特定工作选择最佳简历的招聘软件,以寻找能够反映男性潜意识偏见的特征。 在这种情况下,该算法最终将偏爱男士简历。 这不是理论上的-它是 实际上发生在亚马逊.

设计算法时不考虑可能的负面影响 已经比较了 对医生来说,“写出给定治疗的益处,而不论其严重程度,都完全忽略了副作用”。

一些科技公司和研究人员正在尝试解决这个问题。 例如,谷歌草拟了一个 一套道德原则 指导AI的发展。 英国学者发起了一项名为 不等于 旨在鼓励在设计和使用技术时实现更大的公平与正义。


从InnerSelf获取最新信息


问题在于,在公开场合,公司往往只对近期技术的潜在后果抱有积极的看法。 例如,无人驾驶汽车经常被描述为解决了我们从成本到安全的所有运输问题,而忽略了增加的费用。 网络攻击的危险 或者他们可以鼓励人们 少走或骑自行车.

难以理解数字技术的工作原理,尤其是那些由晦涩的算法严重驱动的数字技术,也使人们更难于对问题进行复杂而全面的了解。 这种情况在令人放心的积极叙事和模糊的怀疑之间产生了张力,这种怀疑是在我们周围的技术中某种程度上嵌入了偏见。 这就是我们认为可以通过设计小说进行叙事的地方。

故事是思考可能性和复杂情况的自然方法,我们一生都在聆听。 科幻小说可以像Slaughterbots一样帮助我们推测近期技术对社会的影响。 这甚至可能包括社会正义问题,例如某些群体(如难民和移民)的生活方式 排除在外 数字创新。

揭示(可能的)未来

设计小说故事 为设计师,工程师和未来主义者(以及其他人)提供了一种新颖的方式来从人类的角度考虑技术的影响并将其与未来的可能需求联系起来。 结合逻辑和想象力,设计小说可以揭示技术可能如何采用和使用的各个方面,从而开始有关其技术的对话。 未来的后果.

例如,短篇小说“犯罪外包”探讨了如果AI使用众包信息和犯罪数据库来预测谁可能谋杀,将会发生什么情况。 研究人员发现,由于数据库中挤满了少数族裔群体,由于社会原因,这些族裔在统计学上更容易受到冒犯,因此“犯罪来源”模型更有可能 错误地怀疑少数民族 比白人。

您不必成为有才华的作家或制作光滑的电影即可制作设计小说。 涉及卡片和情节提要的集思广益活动 被用过 开发设计小说并帮助发展讲故事的过程。 使使用此类工具的研讨会更为普遍,将使更多的工程师,企业家和政策制定者能够使用这种评估方法。 而且,将产生的成果公之于众将有助于在技术影响社会之前揭露技术中的潜在偏见。

鼓励设计师以这种方式创建和分享更多的故事将确保支撑新技术的叙述不仅呈现出积极的印象,也不会呈现出极端的消极或反乌托邦风格。 相反,人们将能够欣赏到我们周围正在发生的两个方面。谈话

作者简介

马里西亚(Alessio Malizia),用户体验设计教授, 赫特福德大学 西尔维奥·卡塔(Silvio Carta)艺术与设计负责人,设计研究小组主席, 赫特福德大学

本文重新发表 谈话 根据知识共享许可。 阅读 原创文章.

enafarZH-CNzh-TWnltlfifrdehiiditjakomsnofaptruessvtrvi

按照InnerSelf

Facebook的图标Twitter的图标RSS图标

通过电子邮件获取最新的

{emailcloak = OFF}