"What If It Is Wrong": Effects of Power Dynamics and Trust Repair Strategy on Trust and Compliance in HRI
"What If It Is Wrong": Effects of Power Dynamics and Trust Repair Strategy on Trust and Compliance in HRI
复制标题
“如果错了怎么办”：权力动态和信任修复策略对 HRI 信任与合规性的影响
DOI：
10.1145/3568162.3576964
复制
发表时间：
2023
期刊：
影响因子：
--
通讯作者：
Huang, Chien-Ming
中科院分区：
文献类型：
--
作者：
Karli, Ulas Berk;Cao, Shiye;Huang, Chien-Ming
设计用于与人一起工作的机器人系统容易受到技术和意外错误的影响。先前的工作已经研究了各种策略，旨在修复人们在机器人错误操作后对机器人的信任。在这项工作中，我们探讨了错误后的信任修复策略（承诺和解释）对人们的信任机器人在不同的权力动态（主管和下属机器人）的影响。我们的研究结果表明，无论权力动态，承诺是更有效地修复用户的信任比解释。此外，人们发现具有口头信任修复的主管机器人比具有口头信任修复的下属机器人更值得信赖。我们的研究结果进一步表明，人们倾向于遵守监督机器人，即使它是错误的。我们讨论了在使用监督机器人和潜在的干预措施，以防止不适当的遵守用户更富有成效的人机协作的道德问题。
Robotic systems designed to work alongside people are susceptible to technical and unexpected errors. Prior work has investigated a variety of strategies aimed at repairing people's trust in the robot after its erroneous operations. In this work, we explore the effect of post-error trust repair strategies (promise and explanation) on people's trust in the robot under varying power dynamics (supervisor and subordinate robot). Our results show that, regardless of the power dynamics, promise is more effective at repairing user trust than explanation. Moreover, people found a supervisor robot with verbal trust repair to be more trustworthy than a subordinate robot with verbal trust repair. Our results further reveal that people are prone to complying with the supervisor robot even if it is wrong. We discuss the ethical concerns in the use of supervisor robot and potential interventions to prevent improper compliance in users for more productive human-robot collaboration.
登录
查看更多内容
目的性和人性化对自动驾驶汽车信任修复尝试的影响
DOI：
--
发表时间：
2019
期刊：
Proceedings of the Human Factors and Ergonomics Society Annual Meeting
影响因子：
--
作者：
Spencer Kohn;Ali Momen;E. Wiese;Yi;Tyler H. Shaw
通讯作者：
Tyler H. Shaw
测量人机交互中的信任：“信任感知量表-HRI”的开发
DOI：
--
发表时间：
2016
期刊：
影响因子：
--
作者：
Kristin E. Schaefer
通讯作者：
Kristin E. Schaefer
DOI：
--
发表时间：
2018
期刊：
International Conference on Persuasive Technology
影响因子：
--
作者：
Ning Wang;D. Pynadath;E. Rovira;M. Barnes;S. Hill
通讯作者：
S. Hill
拟人化机器人设计对工业人机交互中信任和注意力的影响
DOI：
--
发表时间：
2021
期刊：
ACM Trans. Hum. Robot Interact.
影响因子：
--
作者：
L. Onnasch;Clara Laudine Hildebrandt
通讯作者：
Clara Laudine Hildebrandt
拥有正确的态度：态度如何影响人机交互中的信任修复
DOI：
10.5555/3523760.3523806
发表时间：
2022
期刊：
2022 17th ACM/IEEE International Conference on Human-Robot Interaction (HRI)
影响因子：
--
作者：
Connor Esterwood
通讯作者：
Connor Esterwood