Safety engineering, role responsibility and lessons from the Uber ATG Tempe Accident
Safety engineering, role responsibility and lessons from the Uber ATG Tempe Accident
复制标题
安全工程、角色责任以及 Uber ATG 坦佩事故的教训
DOI：
10.1145/3597512.3599718
复制
发表时间：
2023
期刊：
影响因子：
--
通讯作者：
Ryan Conmy P
中科院分区：
文献类型：
--
作者：
Ryan Conmy P
安全关键自主系统（SCAS）需要一个安全保证案例（SAC）来证明为什么它们被认为是可接受的安全使用，尽管与它们的操作相关的剩余风险。降低风险是所有安全关键系统开发和运行的首要原则。SAC应证明风险是可容忍的，并已通过稳健的设计和操作控制尽可能降低。由于SCAS可能没有操作员，安全工程师对操作决策负有更直接的责任。事故发生后，了解哪些工程决策导致了事故的发生，以及对这些决策负责的角色可能是有用的。本文回顾了不同的责任感（角色、道德、法律的和因果关系）如何适用于SCAS工程和操作。我们用它来说明如何考虑角色责任，可以帮助支持一个防御SAC，并可能提高系统的安全实践。我们的研究结果说明了分析优步/滕佩亚利桑那州致命碰撞事故报告。我们发现，现有的安全实践可能无法识别所有的角色责任的方式，支持因果安全分析。这篇论文是为整个TAS社区，但重点是安全专业人员。
Safety critical autonomous systems (SCAS) require a safety assurance case (SAC) to justify why they are considered acceptably safe to use, despite the residual risk associated with their operation. Reducing risk is an overarching principle of all safety critical systems development and operation. The SAC should demonstrate that the risk is tolerable and has been reduced as far as possible, through robust design and operational controls. As a SCAS may not have an operator, safety engineers have a more direct responsibility for operational decisions. Following an accident it may be useful to understand which engineering decisions causally contributed to it, and roles responsible for those decisions. This paper contains a review of how different senses of responsibility (role, moral, legal and causal) apply to SCAS engineering and operation. We use this to illustrate how considering role responsibility can help support a defensible SAC, and potentially improve system safety practice. Our findings are illustrated with an analysis the Uber/Tempe Arizona fatal collision accident report. We found that existing safety practice may not identify all role responsibilities in a way that supports causal safety analysis. This paper is intended for the whole TAS community, but with an emphasis on safety professionals.
登录
查看更多内容
区分人工智能技术问责制的两个特征
影响因子：
23.8
作者：
Porter Z
通讯作者：
Porter Z
影响因子：
14.4
作者：
Burton, Simon;Habli, Ibrahim;Porter, Zoe
通讯作者：
Porter, Zoe
因果贡献和责任*
DOI：
--
发表时间：
2018
期刊：
Ethics: An International Journal of Social, Political, and Legal Philosophy
影响因子：
--
作者：
Victor Tadros
通讯作者：
Victor Tadros
ISO 14971：医疗器械 - 风险管理在医疗器械中的应用
DOI：
--
发表时间：
2018
期刊：
影响因子：
--
作者：
A. Coronato
通讯作者：
A. Coronato
可接受的安全伦理
DOI：
--
发表时间：
2015
期刊：
影响因子：
--
作者：
I. Habli;T. Kelly;Kevin Macnish;C. Megone;M. Nicholson;A. Rae
通讯作者：
A. Rae