Hammers for Robots: Designing Tools for Reinforcement Learning Agents
Hammers for Robots: Designing Tools for Reinforcement Learning Agents
复制标题
机器人锤子：设计强化学习代理工具
DOI：
10.1145/3461778.3462029
复制
发表时间：
2021
期刊：
影响因子：
--
通讯作者：
Hoffman, Guy
中科院分区：
文献类型：
--
作者：
Law, Matthew V;Li, Zhilong;Rajesh, Amit;Dhawan, Nikhil;Kwatra, Amritansh;Hoffman, Guy
在本文中，我们将探讨人类在设计强化学习（RL）代理与世界交互的工具时可能扮演的角色。最近的工作探索了RL方法，优化机器人的形态，同时学习控制它，有效地将RL代理的环境划分为外部世界和代理与世界的接口。采用以用户为中心的设计（UCD）方法，我们探索人类的潜力，而不是算法，重新设计代理的工具。使用UCD设计机器学习代理带来了几个研究问题，包括理解RL代理的经验，信念，倾向和目标意味着什么。在讨论了这些问题之后，我们提出了一个我们开发的系统，用于研究人类为RL自动驾驶员设计2D赛车。我们的结论与调查结果和见解，从探索性飞行员与12个用户使用这个系统。
In this paper we explore what role humans might play in designing tools for reinforcement learning (RL) agents to interact with the world. Recent work has explored RL methods that optimize a robot’s morphology while learning to control it, effectively dividing an RL agent’s environment into the external world and the agent’s interface with the world. Taking a user-centered design (UCD) approach, we explore the potential of a human, instead of an algorithm, redesigning the agent’s tool. Using UCD to design for a machine learning agent brings up several research questions, including what it means to understand an RL agent’s experience, beliefs, tendencies, and goals. After discussing these questions, we then present a system we developed to study humans designing a 2D racecar for an RL autonomous driver. We conclude with findings and insights from exploratory pilots with twelve users using this system.
登录
查看更多内容
影响因子：
88.1
作者：
P. Egan;J. Cagan
通讯作者：
J. Cagan
探索主动式人工智能系统的用户期望
DOI：
10.1145/3432193
发表时间：
2020
影响因子：
--
作者：
Christian Meurisch;Cristina A. Mihale;Adrian Hawlitschek;Florian Giger;Florian Müller;O. Hinz;M. Mühlhäuser
通讯作者：
M. Mühlhäuser
影响因子：
3.5
作者：
Heylighen, Ann;Dong, Andy
通讯作者：
Dong, Andy
DOI：
10.1016/j.artint.2020.103367
发表时间：
2019-12
期刊：
ArXiv
影响因子：
--
作者：
P. Sequeira;M. Gervasio
通讯作者：
P. Sequeira;M. Gervasio
可解释人工智能 (XAI) 的务实转向
影响因子：
7.4
作者：
Andrés Páez
通讯作者：
Andrés Páez