当事情在自动化世界出现错误时,我们还会知道该怎么办?

当事情在自动化世界出现错误时,我们还会知道该怎么办?

我们生活在一个既复杂又复杂的世界里 自动化。 因此,就像我们不得不面对更复杂的问题一样,自动化正在导致人类技能的萎缩,这可能会让我们在对突发情况做出反应或出现问题时更加脆弱。 谈话

考虑一下 法航航班447的最后几分钟在离开巴西里约热内卢之后,法国巴黎的2009于5月坠入大西洋。

其飞行记录器显示 在驾驶舱内发生混乱。 飞机在15º上自动倾斜,并重复地称为“失速,失速”。 然而,飞行员们正在re咽,一个惊呼:“我们什么都不懂。”

这不是进入这个命运多flight的航班的来龙去脉的地方,除了要指出的是,任何设计用来自动处理突发事件的系统,大部分时间都会使设计者不能满足的少数情况下降的技能基础可以预见。

说起 “名利场”,密歇根大学工业工程师Nadine Sarter回忆了与五名参与制造特定飞机的工程师的对话。

我开始问:'那这个或那个工作怎么样? 他们无法就答案达成一致。 所以我想,如果这五位工程师不能同意的话,这个可怜的飞行员,如果他遇到过这种特殊的情况......好吧,祝你好运。

事实上,审慎飞行高度复杂的高科技客机的复杂性已经外包给一个机器人 飞行工程师去了所有的意图和目的 从驾驶舱。 只有较老的飞行员和空军飞行员才能保留这些详细的技能。


从InnerSelf获取最新信息


回到地球上,在一个自主驾驶的世界里,可能会有一整代后代,没有任何实际的经验 驾驶和导航 一辆车。

我们已经看到了一个迹象 什么可能会出错 当人类离开控制 自治系统.

调查 特斯拉模型S与自动驾驶仪的致命的崩溃 指出该公司向司机提供了有关“系统限制”的信息。 在这种情况下,司机应该注意。

但是,如果事情在将来出现问题,一个人有什么机会接管任何控制 完全自主的车辆。 他们甚至会知道如何发现即将发生灾难的早期迹象吗?

失去我们的方式?

推动这是一个技术决定论,相信任何和所有的创新本质上是好的。 虽然新兴技术可能尚未确定它是什么样的人,但挑战在于 承认风险 以及如何确保事情不会出错。

这越来越困难,因为我们已经增加了复杂性,尤其是自动驾驶 郊区火车, 空中出租车 运送无人机.

系统设计人员一直在构建更大,更相互交织的系统,以共享计算机处理负载,尽管这使得他们的创作成为故障的主要候选者。 他们忽视了这样一个事实,即一旦连接起来,问题就可以像解决方案一样迅速传播,有时更是如此。

自动化世界的日益复杂和巨大的复杂性带来了类似的风险。

危险点

事后看来,所需要的是在出现故障点时切断网络的能力,或者至少在其他地方出现故障点时封锁单个网络的部分。

这种“孤岛”是智能电网的一个特点,它提供了将网络分割成能够自我维持其内部电力需求的片段的范围。 建模已经表明 更少的连接可以导致更多的安全性.

紧急复杂性科学能否帮助确定高度相互关联的网络中危险点的位置? Marten Scheffer及其同事 也这么觉得。 他已经看到(他的)自然系统的行为与经济和金融系统之间的相似性。

他的 以前的工作 在湖泊,珊瑚礁,海洋,森林和草原上发现,气候,营养负荷和生境损失等逐渐变化的环境可能会达到临界点,使之变成有时不可逆转的低谷状态。

银行家和经济学家是否能够从生态学,流行病学和气候学的研究者那里学习金融市场的稳定性,从而发现接近临界阈值和系统崩溃的标志?

二月份的2016,这一切都以一种形式汇集在一起 关于复杂性理论和金融监管的论文 由经济学家,银行家,物理学家,气候学家,生态学家,动物学家,兽医学家和流行病学家等广泛的专家共同撰写。

他们建议在线整合数据,方法和指标,近乎实时地为全球社会经济和金融体系进行压力测试。 前者与处理其他复杂系统(如天气)所取得的成就相似。

我们可以开始看到我们的自主驾驶世界的例子如何折叠成网络稳定性的问题。 想象一下高度互联的自主车辆网络。

在发生可能的悲剧后果出现问题之前,明确需要知道如何检测和隔离这种网络中的任何潜在故障点。 这不仅仅是保护驾驶员和乘客免​​受单个自主车辆中的任何系统故障的影响。

现在是时候考虑如何利用这些多学科的进展来理解这种大规模网络的稳定性,以避免严重的后果。

关于作者

Peter Fisher,全球,城市和社会研究兼职教授, 皇家墨尔本理工大学 (RMIT)

这篇文章最初发表于 谈话。 阅读 原创文章.

相关书籍

{amazonWS:searchindex = Books; keywords =自动化出错; maxresults = 3}

enafarZH-CNzh-TWnltlfifrdehiiditjakomsnofaptruessvtrvi

按照InnerSelf

Facebook的图标Twitter的图标RSS图标

通过电子邮件获取最新的

{emailcloak = OFF}