Norms, Rewards, and the Intentional Stance: Comparing Machine Learning Approaches to Ethical Training
Norms, Rewards, and the Intentional Stance: Comparing Machine Learning Approaches to Ethical Training
复制标题
规范、奖励和意图立场：机器学习方法与道德培训的比较
DOI：
10.1145/3278721.3278774
复制
发表时间：
2018
期刊：
影响因子：
--
通讯作者：
Scheutz, Matthias
中科院分区：
文献类型：
--
作者：
Kasenberg, Daniel;Arnold, Thomas;Scheutz, Matthias
训练人工智能系统以负责任和有益的方式执行的挑战启发了不同的方法来教授系统人们想要什么，以及如何在世界上接受人们想要的东西。在本文中，我们比较了强化学习中的工作，特别是逆强化学习，与我们的范数推理方法。我们测试了这两个系统，并给出了结果。利用“意图立场”的思想，我们解释了即使在另一个智能体严格按照奖励函数行事的情况下，规范推理方法也可以工作。这样，规范推理就成为一种有前途的、更明确负责的方法，可以从一开始就用来设计人工智能系统。
The challenge of training AI systems to perform responsibly and beneficially has inspired different approaches for teaching a system what people want and how it is acceptable to attain that in the world. In this paper we compare work in reinforcement learning, in particular inverse reinforcement learning, with our norm inference approach. We test those two systems and present results. Using the idea of the "intentional stance", we explain how a norm inference approach can work even when another agent is acting strictly according to reward functions. In this way norm inference presents itself as a promising, more explicitly accountable approach with which to design AI systems from the start.
登录
查看更多内容
AI Now 2017 报告
DOI：
--
发表时间：
2017
期刊：
影响因子：
--
作者：
Alexander Campolo;M. Sanfilippo;M. Whittaker;K. Crawford
通讯作者：
K. Crawford
“思考并做正确的事”——对有道德能力的自主机器人的呼吁
DOI：
--
发表时间：
2014
期刊：
2014 IEEE International Symposium on Ethics in Science, Technology and Engineering
影响因子：
--
作者：
Matthias Scheutz;B. Malle
通讯作者：
B. Malle
DOI：
--
发表时间：
2017
期刊：
Artificial Intelligence: Foundations, Theory, and Algorithms
影响因子：
--
作者：
P. Boddington
通讯作者：
P. Boddington
社交机器人的道德能力
DOI：
10.1109/ethics.2014.6893446
发表时间：
2014
期刊：
2014 IEEE International Symposium on Ethics in Science, Technology and Engineering
影响因子：
--
作者：
B. Malle;Matthias Scheutz
通讯作者：
Matthias Scheutz
关于如何进行的一些建议
DOI：
--
发表时间：
2017
期刊：
影响因子：
--
作者：
P. Boddington
通讯作者：
P. Boddington