The Eye of the Robot Beholder: Ethical Risks of Representation, Recognition, and Reasoning over Identity Characteristics in Human-Robot Interaction
The Eye of the Robot Beholder: Ethical Risks of Representation, Recognition, and Reasoning over Identity Characteristics in Human-Robot Interaction
复制标题
机器人旁观者之眼：人机交互中身份特征的表示、识别和推理的道德风险
DOI：
10.1145/3568294.3580031
复制
发表时间：
2023
期刊：
影响因子：
--
通讯作者：
Williams, Tom
中科院分区：
文献类型：
--
作者：
Williams, Tom
HRI 文献的重要部分依赖于或促进推理人类身份特征的能力，包括年龄、性别和文化背景。然而，尝试处理身份特征引发了许多关键的伦理问题，特别是考虑到这些特征的时空动态。在本文中，我质疑人类身份特征是否可以并且应该由机器人来表示、识别或推理，特别关注种族的构建，因为它在 HRI 社区中相对缺乏考虑。正如我将要论证的，虽然 HRI 研究人员可能希望让机器人考虑身份特征有许多有充分理由的原因，但这些原因被许多关键的本体论、感知和面向部署的问题所压倒。这一论点提出了一些令人不安的问题：机器人是否应该能够理解或生成对人的描述，以及它们如何在避免这些道德问题的同时做到这一点。最后，我最后讨论了这对 HRI 社区在算法和机器人设计方面意味着什么，并推测了可能的前进路径。
Significant segments of the HRI literature rely on or promote the ability to reason about human identity characteristics, including age, gender, and cultural background. However, attempting to handle identity characteristics raises a number of critical ethical concerns, especially given the spatiotemporal dynamics of these characteristics. In this paper I question whether human identity characteristics can and should be represented, recognized, or reasoned about by robots, with special attention paid to the construct of race, due to its relative lack of consideration within the HRI community. As I will argue, while there are a number of well-warranted reasons why HRI researchers might want to enable robotic consideration of identity characteristics, these reasons are outweighed by a number of key ontological, perceptual, and deployment-oriented concerns. This argument raises troubling questions as to whether robots should even be able to understand or generate descriptions of people, and how they would do so while avoiding these ethical concerns. Finally, I conclude with a discussion of what this means for the HRI community, in terms of both algorithm and robot design, and speculate as to possible paths forward.
登录
查看更多内容
对机器人的歧视和刻板反应作为机器人着色的函数
DOI：
10.1145/3450614.3463411
发表时间：
2021
期刊：
Adjunct Proceedings of the 29th ACM Conference on User Modeling, Adaptation and Personalization
影响因子：
--
作者：
Jessica K. Barfield
通讯作者：
Jessica K. Barfield
教育中的种族、身份和代表性
影响因子：
1.7
作者：
Cameron R. McCarthy;Warren E. Crichlow
通讯作者：
Warren E. Crichlow
人机叛乱：无政府主义人机交互笔记
DOI：
--
发表时间：
2019
期刊：
International Conference on Human Factors in Computing Systems
影响因子：
--
作者：
O. Keyes;Josephine Hoy;Margaret Drouhard
通讯作者：
Margaret Drouhard
提高机器人可信度并挑战性别规范来应对虐待行为：女权主义机器人的案例
DOI：
10.1145/3434074.3446910
发表时间：
2021
期刊：
Companion of the 2021 ACM/IEEE International Conference on Human-Robot Interaction
影响因子：
--
作者：
Katie Winkle;G. I. Melsión;Donald Mcmillan;Iolanda Leite
通讯作者：
Iolanda Leite
DOI：
--
发表时间：
1981
期刊：
影响因子：
--
作者：
G. Fredrickson
通讯作者：
G. Fredrickson