Comparing Norm-Based and Role-Based Strategies for Robot Communication of Role-Grounded Moral Norms
Comparing Norm-Based and Role-Based Strategies for Robot Communication of Role-Grounded Moral Norms
复制标题
比较基于规范和基于角色的机器人通信基于角色的道德规范策略
DOI：
10.1145/3571719
复制
发表时间：
2023
影响因子：
5.1
通讯作者：
Williams, Tom
中科院分区：
文献类型：
--
作者：
Wen, Ruchen;Kim, Boyoung;Phillips, Elizabeth;Zhu, Qin;Williams, Tom
因为机器人被认为是道德的代理人，它们必须按照人类的道德体系行事。这种责任对于有语言能力的机器人来说尤其重要，因为道德沟通是建立道德生态系统的一种方法。有语言能力的机器人不仅要确保他们所说的话符合道德规范;他们还必须积极参与道德交流，以规范和鼓励人类遵守这些规范。在这项工作中，我们描述了四个实验（totalN=316），我们系统地评估了两种不同的道德沟通策略，机器人可以用来影响人类的行为：基于规范的策略，以义务伦理为基础，和基于角色的策略，以角色伦理为基础。具体来说，我们评估了使用这两种策略的机器人的有效性，以鼓励人类遵守基于与某些社会角色相关的行为预期的规范。我们的研究结果提出了两个主要发现，证明了道德反思和道德实践对于有效道德沟通的重要性：第一，反思道德原则的机会可能会增加机器人基于角色的道德语言的功效;第二，遵循机器人的道德语言，道德实践的机会可能会促进基于角色的道德培养。
Because robots are perceived as moral agents, they must behave in accordance with human systems of morality. This responsibility is especially acute for language-capable robots because moral communication is a method for building moral ecosystems. Language capable robots must not only make sure that what they say adheres to moral norms; they must also actively engage in moral communication to regulate and encourage human compliance with those norms. In this work, we describe four experiments (totalN=316) across which we systematically evaluate two different moral communication strategies that robots could use to influence human behavior: a norm-based strategy grounded in deontological ethics, and a role-based strategy grounded in role ethics. Specifically, we assess the effectiveness of robots that use these two strategies to encourage human compliance with norms grounded in expectations of behavior associated with certain social roles. Our results suggest two major findings, demonstrating the importance of moral reflection and moral practice for effective moral communication: First, opportunities for reflection on ethical principles may increase the efficacy of robots’ role-based moral language; and second, following robots’ moral language with opportunities for moral practice may facilitate role-based moral cultivation.
登录
查看更多内容
机器人：提问者和规范的改变者？
DOI：
10.13180/icres.2018.20-21.08.014
发表时间：
2018
期刊：
Hybrid Worlds: Societal and Ethical Challenges
影响因子：
--
作者：
R. Jackson;Tom Williams
通讯作者：
Tom Williams
DOI：
10.1145/2559636.2559670
发表时间：
2014
期刊：
2014 9th ACM/IEEE International Conference on Human-Robot Interaction (HRI)
影响因子：
--
作者：
M. Strait;C. Canning;Matthias Scheutz
通讯作者：
Matthias Scheutz
爱比克泰德
DOI：
10.1017/s0009840x08001935
发表时间：
2009
期刊：
The Classical Review
影响因子：
--
作者：
John Sellars
通讯作者：
John Sellars
将 Ajzen 的计划行为理论应用于公共关系教育在线课程采用的研究。
DOI：
--
发表时间：
2012
期刊：
影响因子：
--
作者：
A. Knabe
通讯作者：
A. Knabe
“停下来，我看到冲突正在发生。”
DOI：
--
发表时间：
2018
期刊：
IEEE/ACM International Conference on Human-Robot Interaction
影响因子：
--
作者：
Solace Shen;Petr Slovák;Malte F. Jung
通讯作者：
Malte F. Jung