Conceptual Metaphors Impact Perceptions of Human-AI Collaboration
Conceptual Metaphors Impact Perceptions of Human-AI Collaboration
复制标题
概念隐喻影响人类与人工智能协作的看法
DOI：
10.1145/3415234
复制
发表时间：
2020
影响因子：
--
通讯作者：
Bernstein, Michael S.
中科院分区：
文献类型：
--
作者：
Khadpe, Pranav;Krishna, Ranjay;Fei-Fei, Li;Hancock, Jeffrey T.;Bernstein, Michael S.
随着对话式人工智能（AI）代理的出现，了解影响用户对这些代理的体验的机制非常重要。在本文中，我们研究了设计师工具箱中最常见的工具之一：概念隐喻。隐喻可以把一个代理人描述成一个扭曲的青少年，一个蹒跚学步的孩子，或者一个有经验的管家。隐喻的选择如何影响我们对AI代理的体验？沿着温暖和能力的维度取样一组隐喻-由心理学理论定义为人类社会感知的主要变化轴-我们进行了一项研究，在那里我们操纵隐喻，而不是行为，一个绿野仙踪会话代理。以下的经验，参与者进行调查，他们的意图使用代理，他们的愿望与代理合作，代理的可用性。与目前设计师使用高能力隐喻来描述人工智能产品的趋势相反，我们发现，与高能力的隐喻相比，低能力的隐喻会导致对智能体的更好评价。这种效应持续存在，尽管高能力和低能力的代理人具有相同的，人类水平的性能和巫师是盲目的条件。第二项研究证实，采用的意图迅速减少能力预测的隐喻增加。在第三项研究中，我们评估了隐喻选择对潜在用户尝试系统的愿望的影响，发现用户被吸引到投射更高的能力和温暖的系统。这些结果表明，投射能力可能有助于吸引新的用户，但这些用户可能会放弃代理，除非它可以迅速纠正与较低的能力隐喻。我们结束了一个回顾性的分析，发现类似的模式之间的隐喻和用户对过去的会话代理人，如小冰，达卡，Woebot，Mitsuku和泰的态度。
With the emergence of conversational artificial intelligence (AI) agents, it is important to understand the mechanisms that influence users' experiences of these agents. In this paper, we study one of the most common tools in the designer's toolkit: conceptual metaphors. Metaphors can present an agent as akin to a wry teenager, a toddler, or an experienced butler. How might a choice of metaphor influence our experience of the AI agent? Sampling a set of metaphors along the dimensions of warmth and competence---defined by psychological theories as the primary axes of variation for human social perception---we perform a studywhere we manipulate the metaphor, but not the behavior, of a Wizard-of-Oz conversational agent. Following the experience, participants are surveyed about their intention to use the agent, their desire to cooperate with the agent, and the agent's usability. Contrary to the current tendency of designers to use high competence metaphors to describe AI products, we find that metaphors that signal low competence lead to better evaluations of the agent than metaphors that signal high competence. This effect persists despite both high and low competence agents featuring identical, human-level performance and the wizards being blind to condition. A second study confirms that intention to adopt decreases rapidly as competence projected by the metaphor increases. In a third study, we assess effects of metaphor choices on potential users' desire to try out the system and find that users are drawn to systems that project higher competence and warmth. These results suggest that projecting competence may help attract new users, but those users may discard the agent unless it can quickly correct with a lower competence metaphor. We close with a retrospective analysis that finds similar patterns between metaphors and user attitudes towards past conversational agents such as Xiaoice, Replika, Woebot, Mitsuku, and Tay.
登录
查看更多内容
DOI：
--
发表时间：
2018-11
期刊：
ArXiv
影响因子：
--
作者：
C. Rudin
通讯作者：
C. Rudin
隐喻在人类与计算机交互的信息行为中的作用
DOI：
--
发表时间：
2008
期刊：
影响因子：
--
作者：
R. Sease
通讯作者：
R. Sease
以边缘化社会身份的方式种族化的机器人比那些被种族化为白人的机器人遭受更大的非人化
DOI：
10.1109/roman.2018.8525610
发表时间：
2018
期刊：
2018 27th IEEE International Symposium on Robot and Human Interactive Communication (RO-MAN)
影响因子：
--
作者：
M. Strait;A. C. S. Ramos;Virginia Contreras;Noemi Garcia
通讯作者：
Noemi Garcia
影响因子：
3
作者：
E. Golub;S. Greenberg;Uss Vincennes
通讯作者：
E. Golub;S. Greenberg;Uss Vincennes
DOI：
--
发表时间：
2004
期刊：
Hum. Comput. Interact.
影响因子：
--
作者：
Pamela J. Hinds;Teresa L. Roberts;Hank Jones
通讯作者：
Hank Jones