A principles-based ethics assurance argument pattern for AI and autonomous systems
A principles-based ethics assurance argument pattern for AI and autonomous systems
复制标题
人工智能和自主系统基于原则的道德保证论证模式
DOI：
10.1007/s43681-023-00297-2
复制
发表时间：
2023
期刊：
影响因子：
--
通讯作者：
Porter Z
中科院分区：
文献类型：
--
作者：
Porter Z
保证案例是一种结构化论证，通常由安全工程师提出，以传达关键或复杂系统（如飞机）在其预期环境中具有可接受安全性的信心。保证案例通常会告知第三方对系统的批准。值得信赖的AI和自治系统（AI/AS）研究社区中的一个新兴命题是使用保证案例来灌输合理的信心，即特定的AI/AS在定义明确的环境中运行时在道德上是可接受的。本文对这一命题进行了实质性的拓展和具体化。它将保证案例方法与一套伦理原则结合起来，构建了一个基于原则的伦理保证论证模式。这些原则是公正、仁慈、不伤害和尊重人的自主权，透明度原则起着辅助作用。参数模式-缩写为PRAISE-描述。拟议的PRAISE论证模式的目标是为个人道德保证案例提供一个可重复使用的模板，通过该模板，工程师，开发人员，运营商或监管机构可以证明，沟通或质疑在给定的社会技术背景下使用特定AI/AS的整体道德可接受性。我们将该模式应用于城市中心的自动“机器人出租车”服务的假设用例。
An assurance case is a structured argument, typically produced by safety engineers, to communicate confidence that a critical or complex system, such as an aircraft, will beacceptably safewithin its intended context. Assurance cases often inform third party approval of a system. One emerging proposition within the trustworthy AI and autonomous systems (AI/AS) research community is to use assurance cases to instil justified confidence that specific AI/AS will beethically acceptablewhen operational in well-defined contexts. This paper substantially develops the proposition and makes it concrete. It brings together the assurance case methodology with a set of ethical principles to structure a principles-based ethics assurance argument pattern. The principles are justice, beneficence, non-maleficence, and respect for human autonomy, with the principle of transparency playing a supporting role. The argument pattern—shortened to the acronym PRAISE—is described. The objective of the proposed PRAISE argument pattern is to provide a reusable template for individual ethics assurance cases, by which engineers, developers, operators, or regulators could justify, communicate, or challenge a claim about the overall ethical acceptability of the use of a specific AI/AS in a given socio-technical context. We apply the pattern to the hypothetical use case of an autonomous ‘robo-taxi’ service in a city centre.
登录
查看更多内容
“我们能利用纳米空间科学做什么？——梦想成真——”
DOI：
--
发表时间：
2014
期刊：
影响因子：
--
作者：
Kouki Kiyota;Hironori Ueno;Keiko Numayama-Tsuruta;Yohsuke Imai;Takami Yamaguchi;Takuji Ishikawa;北川進
通讯作者：
北川進
利用人工智能阐明抑郁症的病理学以及个性化心理保健的前景
DOI：
--
发表时间：
2023
期刊：
臨床精神薬理
影响因子：
--
作者：
富田 博秋;兪 志前;李 雪; 高橋 雄太
通讯作者：
高橋 雄太
影响因子：
14.4
作者：
Burton, Simon;Habli, Ibrahim;Porter, Zoe
通讯作者：
Porter, Zoe
工作文件：制定人工智能伦理建议草案文本
DOI：
--
发表时间：
2020
期刊：
Social Science Research Network
影响因子：
--
作者：
Maksim Karliuk
通讯作者：
Maksim Karliuk
安全关键系统中机器学习可解释性的保证案例模式
DOI：
--
发表时间：
2020
期刊：
SAFECOMP Workshops
影响因子：
--
作者：
Francis Rhys Ward;I. Habli
通讯作者：
I. Habli