在自主技术中寻找信任和理解

在自主技术中寻找信任和理解摄影:瑞士Norbert Aepli(用户:Noebu)

在2016中,自驾车成为主流。 优步的自主车辆 变得无处不在 在我住在匹兹堡的社区里 简单地在旧金山。 美国交通部发布 新的监管指导 为他们。 无数 文件 讨论如何自驾车 应该 解决 道德困境 当事情出错了。 不幸的是,2016也看到了 涉及自主车辆的第一次死亡事故.

自治技术正在迅速蔓延到交通领域之外 保健, 先进的网络防御 乃至 自主武器。 在2017中,我们将不得不决定是否可以信任这些技术。 这将比我们预期的要困难得多。

信任是复杂而多样的,也是我们生活中的关键部分。 我们经常信任技术 基于可预测性:如果我知道在特定的情况下会做什么,即使我不知道为什么,我也相信它。 例如,我相信我的电脑,因为我知道它将如何运作,包括何时会发生故障。 我不再相信,如果它开始有不同的或令人惊讶的行为。

相反,我对我妻子的信任是基于的 了解她的信仰,价值观和个性。 更一般地说,人际信任并不涉及确切地知道对方会做什么 - 我的妻子有时候肯定让我感到惊讶! - 而是他们为什么像他们一样行事。 当然,如果我们知道他们会做什么以及为什么,我们可以用两种方式相信某个人(或某个东西)。

从伦理和心理的角度来看,我一直在探索可能的自我驾驶汽车和其他自主技术的基础。 这些都是设备,所以可预测性似乎是关键。 然而,由于他们的自主性,我们需要考虑学习如何相信他们,以我们信任别人的方式的重要性,价值和挑战。

自主性和可预测性

我们希望包括自驾车在内的我们的技术能够以我们可以预测和预期的方式行事。 当然,这些系统可能对上下文相当敏感,包括其他车辆,行人,天气状况等等。 但总的来说,我们可以预期,一次重复放置在同一个环境中的自动驾驶汽车应该每次都是相似的。 但是,这些高度可预测的汽车究竟是自主的,而不仅仅是自动的?

许多 不同 尝试定义 自治但他们都有这个共同点:自治系统可以做出自己的(实质性的)决定和计划,从而可以采取不同于预期的行动。


从InnerSelf获取最新信息


实际上,采用自主权(与自动化不同)的一个原因恰恰就在于,这些系统可以采取意想不到的,令人惊讶的行动,虽然是合理的。 例如, DeepMind的AlphaGo 赢得了最近的Go系列赛对Lee Sedol的第二场比赛,部分原因是因为 没有任何一个玩家会做出这样的举动,但却是正确的举措。 但同样的惊喜使得难以建立可预测性的信任。 完全基于可预测性的强大的信任可能仅仅是自动或自动系统的可能性,正是因为它们是可预测的(假设系统正常运行)。

拥抱惊喜

当然,其他人也经常给我们惊喜,但是我们可以相当信任他们,甚至给他们自己的生死权力。 士兵信任他们的同志在复杂的,敌对的环境; 病人相信她的外科医生切除肿瘤; 我的妻子更加平凡,相信我安全驾驶。 这种人际信任使我们能够拥抱惊喜,所以也许我们可以在自驾车上发展出像人际信任这样的东西。

一般来说,人际信任需要理解为什么某个人以特定的方式行事,即使你无法预测确切的决定。 我的妻子可能不知道我将如何开车,但她知道我开车时使用的理由。 而实际上,为了别人做某件事情,其实是相对容易的,因为我们大家思考和推理的方式大致相似,尽管有不同的“原料” - 我们的信念,愿望和经验。

实际上,我们不断地,无意识地根据他们的行为来推断他人的信仰和欲望,很大程度上是通过假设他们像我们一样思考,推理和决定。 所有这些基于我们共同(人类)认知的推理和推理使我们能够理解别人的理由,从而随着时间的推移建立人际信任。

像人一样思考?

自主技术 - 特别是自驾车,不像人们那样思考和决定。 两者都有努力 过去最近开发像人类一样思考和推理的计算机系统。 然而,过去二十年机器学习的一个一贯主题是正是通过不要求我们的人工智能系统以类似于人类的方式进行操作而获得的巨大收益。 相反,AlphaGo等机器学习算法和系统经常能够 跑赢人类专家 通过专注于具体的,局部的问题,然后解决它们与人类完全不同。

因此,试图用类似人类的信仰和愿望来解释一种自主技术,可能会变得非常糟糕。 当一名驾驶员在路上看到一个球时,我们大多数人会自动放慢速度,以避免撞到一个可能追逐的孩子。 如果我们坐在一辆自动驾驶的汽车里,看到一个滚滚的街道,我们希望汽车能够识别它,并且准备好停下来跑步。 但是,这辆车可能只能看到一个障碍。 如果它没有放慢速度,那么船上的人可能会感到惊慌 - 一个小孩可能会处于危险之中。

我们对自动驾驶汽车的“信念”和“欲望”的推断几乎肯定会在重要的方面是错误的,正是因为汽车没有任何人类的信念或欲望。 我们不能仅仅通过观察自驾车来发展人际间的信任,因为我们不能正确地推断出行动背后的原因。

当然,社会或市场客户可以坚持认为自驾车具有类人的(心理)特征,正是这样我们才能理解和发展人际间的信任。 这一战略将给“以人为本的设计“,因为这些系统是专门设计的,所以他们的行为可以被人类解释。 但是这也需要包括新颖的东西 算法技术 在自动驾驶汽车中,所有这些都代表了自主驾驶汽车和其他自主技术的当前研发战略的巨大变化。

自驾车有可能以许多有益的方式彻底改变我们的交通基础设施,但前提是我们可以相信它们足以实际使用它们。 具有讽刺意味的是,使自动驾驶汽车具有价值的特征 - 在各种情况下灵活自主的决策 - 正是令人难以相信的特征。

谈话

authirhere

David Danks,哲学和心理学教授, 卡内基 - 梅隆大学

这篇文章最初发表于 谈话。 阅读 原创文章.

相关书籍:

{amazonWS:searchindex =图书;关键字=自驾车; maxresults = 3}

enafarZH-CNzh-TWnltlfifrdehiiditjakomsnofaptruessvtrvi

按照InnerSelf

Facebook的图标Twitter的图标RSS图标

通过电子邮件获取最新的

{emailcloak = OFF}

编者的话

InnerSelf通讯:9月20,2020
by InnerSelf员工
本周新闻简报的主题可以概括为“您可以做到”,或更确切地说是“我们可以做到!”。 这是说“您/我们有能力做出改变”的另一种方式。 ...的形象
对我有用的:“我能做到!”
by Marie T. Russell,InnerSelf
我之所以分享“对我有用的东西”,是因为它也可能对您有用。 如果我做的方式不完全正确,那么由于我们都是独一无二的,因此态度或方法的某些差异很可能是某种……
InnerSelf通讯:9月6,2020
by InnerSelf员工
我们从感知的角度看待生活。 斯蒂芬·R·科维(Stephen R. Covey)写道:“我们看到的不是世界,而是我们的世界,或者我们有条件去看世界。” 所以这周,我们来看看...
InnerSelf Newsletter:August 30,2020
by InnerSelf员工
这些天,我们所走的道路与时代一样古老,但对我们来说却是新的。 我们拥有的经验与时代一样古老,但对于我们来说也是新的。 ……也是如此
当真相如此可怕,令人受伤时,请采取行动
by 玛丽·T.罗素,InnerSelf.com
在这些日子里发生的所有恐怖之中,我从希望的光芒中得到启发。 普通人支持正确的事物(反对错误的事物)。 棒球运动员,…