RI: Small: Towards a Formal Theory of Blameworthiness, Intention, and Moral Responsibility

RI:小:走向应受谴责、意图和道德责任的正式理论

基本信息

  • 批准号:
    1718108
  • 负责人:
  • 金额:
    $ 42.7万
  • 依托单位:
  • 依托单位国家:
    美国
  • 项目类别:
    Standard Grant
  • 财政年份:
    2017
  • 资助国家:
    美国
  • 起止时间:
    2017-08-01 至 2021-07-31
  • 项目状态:
    已结题

项目摘要

As we move to an era of self-driving cars, autonomous drones, and robots helping people in work and everyday tasks, there is an increasing need to develop a theory of moral or ethical behavior. Policy-makers are already grappling with some of the issues. Jurisdictions around the world are beginning to formulate highway codes that take into consideration the presence of driverless cars. The goal of this project is to provide the foundations for a theory of blameworthiness, intention, and moral responsibility for such agents and applications. The study will evaluate this theory against the moral judgments that people make, and take the first steps to applying resulting policies in practice. A good theory will have to take into consideration tradeoffs among many competing and sometimes conflicting goals. This suggests that probability and utility will be involved. The theory will also have to deal with counterfactuals--that is, reasoning about what would have happened had circumstances or actions differed. Issues of causality will reveal whether an agent's action was responsible for an outcome, or if the action was coincidental to the outcome. Yet another relevant issue is determining intent: that is, determining whether an agent intended an outcome when performing an act. Pearl's structural-equations framework can model counterfactuals (interventions) and has been used as the basis of a definition of causality. In this project, the framework will be extended to capture degree of blameworthiness and intention. These definitions are given relative to an agent's epistemic state, which describes the agent's beliefs and preferences. Initially, the beliefs will be specified by a probability measure and the preferences by a utility function. The framework will then be extended to consider more qualitative representations of beliefs and preferences, to take into account issues of normality and typicality (e.g., to capture societal conventions), and to settings with multiple agents (e.g., multiple communicating driverless cars or robots), where game-theoretic concerns and issues of group responsibility vs. individual responsibility arise. The definitions developed under this framework will be tested to see if they capture people's intuitions about these issues, and will be applied to situations of practical interest. The theory will then be refined to take into account the outcomes of these experiments.
随着我们进入自动驾驶汽车、自动无人机和机器人帮助人们完成工作和日常任务的时代,越来越需要发展道德或伦理行为理论。 政策制定者已经在努力解决一些问题。 世界各地的司法管辖区开始制定高速公路法规,考虑到无人驾驶汽车的存在。 该项目的目标是为此类代理和应用程序的可责性、意图和道德责任理论提供基础。 该研究将根据人们做出的道德判断来评估这一理论,并迈出将由此产生的政策应用于实践的第一步。 一个好的理论必须考虑许多相互竞争、有时甚至是冲突的目标之间的权衡。 这表明将涉及概率和效用。 该理论还必须处理反事实,即推理如果情况或行为不同会发生什么。 因果关系问题将揭示主体的行为是否对结果负责,或者该行为是否与结果同时发生。 另一个相关问题是确定意图:即确定代理人在执行某项行为时是否有意获得某个结果。 Pearl 的结构方程框架可以模拟反事实(干预),并已被用作因果关系定义的基础。 在这个项目中,该框架将扩展以捕获可责性和意图的程度。 这些定义是相对于代理人的认知状态给出的,它描述了代理人的信念和偏好。 最初,信念将由概率度量指定,偏好由效用函数指定。 然后,该框架将扩展到考虑信仰和偏好的更多定性表示,考虑常态和典型性问题(例如,捕捉社会惯例),以及具有多个代理的设置(例如,多个通信无人驾驶汽车或机器人),其中出现博弈论问题以及群体责任与个人责任的问题。 在此框架下制定的定义将进行测试,看看它们是否抓住了人们对这些问题的直觉,并将应用于实际感兴趣的情况。 然后,该理论将被完善以考虑这些实验的结果。

项目成果

期刊论文数量(21)
专著数量(0)
科研奖励数量(0)
会议论文数量(0)
专利数量(0)
Reasoning about causal models with infinitely many variables,
推理具有无限多个变量的因果模型,
Book review
书评
  • DOI:
    10.1016/j.artint.2019.103175
  • 发表时间:
    2019
  • 期刊:
  • 影响因子:
    14.4
  • 作者:
    Halpern, Joseph Y.
  • 通讯作者:
    Halpern, Joseph Y.
A NOTE ON THE EXISTENCE OF RATIFIABLE ACTS
关于可批准法案的存在的说明
  • DOI:
    10.1017/s175502031800028x
  • 发表时间:
    2019
  • 期刊:
  • 影响因子:
    0
  • 作者:
    HALPERN, JOSEPH Y.
  • 通讯作者:
    HALPERN, JOSEPH Y.
The evolution of cognitive mechanisms in response to cultural innovations
Blameworthiness in multi-agent settings
多代理设置中的应责性
{{ item.title }}
{{ item.translation_title }}
  • DOI:
    {{ item.doi }}
  • 发表时间:
    {{ item.publish_year }}
  • 期刊:
  • 影响因子:
    {{ item.factor }}
  • 作者:
    {{ item.authors }}
  • 通讯作者:
    {{ item.author }}

数据更新时间:{{ journalArticles.updateTime }}

{{ item.title }}
  • 作者:
    {{ item.author }}

数据更新时间:{{ monograph.updateTime }}

{{ item.title }}
  • 作者:
    {{ item.author }}

数据更新时间:{{ sciAawards.updateTime }}

{{ item.title }}
  • 作者:
    {{ item.author }}

数据更新时间:{{ conferencePapers.updateTime }}

{{ item.title }}
  • 作者:
    {{ item.author }}

数据更新时间:{{ patent.updateTime }}

Joseph Halpern其他文献

Learning to utilize information presented over two sensory channels
Workload levels, program costs, and program benefits
Integration of information in a visual discrimination task
  • DOI:
    10.3758/bf03210437
  • 发表时间:
    1968-01-01
  • 期刊:
  • 影响因子:
    1.700
  • 作者:
    Z. J. Ulehla;Joseph Halpern;Ann Cerf
  • 通讯作者:
    Ann Cerf
The effect of multiple responses and certainty estimates on the integration of visual information
  • DOI:
    10.3758/bf03208640
  • 发表时间:
    1970-05-01
  • 期刊:
  • 影响因子:
    1.700
  • 作者:
    Joseph Halpern;Z. Joseph Ulehla
  • 通讯作者:
    Z. Joseph Ulehla

Joseph Halpern的其他文献

{{ item.title }}
{{ item.translation_title }}
  • DOI:
    {{ item.doi }}
  • 发表时间:
    {{ item.publish_year }}
  • 期刊:
  • 影响因子:
    {{ item.factor }}
  • 作者:
    {{ item.authors }}
  • 通讯作者:
    {{ item.author }}

{{ truncateString('Joseph Halpern', 18)}}的其他基金

RI: Medium: Computation, Language, and Games
RI:媒介:计算、语言和游戏
  • 批准号:
    1703846
  • 财政年份:
    2017
  • 资助金额:
    $ 42.7万
  • 项目类别:
    Continuing Grant
ICES: Large: Computation, Language, and Awareness in Games
ICES:大型:游戏中的计算、语言和意识
  • 批准号:
    1214844
  • 财政年份:
    2012
  • 资助金额:
    $ 42.7万
  • 项目类别:
    Standard Grant
III: Large: Causal Databases
III:大型:因果数据库
  • 批准号:
    0911036
  • 财政年份:
    2009
  • 资助金额:
    $ 42.7万
  • 项目类别:
    Continuing Grant
RI-Small: Robust Game Theory and Decision Theory with Resource-Bounded Agents
RI-Small:具有资源有限代理的鲁棒博弈论和决策论
  • 批准号:
    0812045
  • 财政年份:
    2008
  • 资助金额:
    $ 42.7万
  • 项目类别:
    Continuing Grant
The Third Northeast Student Colloquium on Artificial Intelligence
第三届东北学生人工智能学术研讨会
  • 批准号:
    0813924
  • 财政年份:
    2008
  • 资助金额:
    $ 42.7万
  • 项目类别:
    Standard Grant
The Second Northeast Student Colloquium on Artificial Intelligence
第二届东北学生人工智能学术研讨会
  • 批准号:
    0728898
  • 财政年份:
    2007
  • 资助金额:
    $ 42.7万
  • 项目类别:
    Standard Grant
Taking Awareness, Language, and Novelty into Account in Decision-Making and Game Theory
在决策和博弈论中考虑意识、语言和新颖性
  • 批准号:
    0534064
  • 财政年份:
    2006
  • 资助金额:
    $ 42.7万
  • 项目类别:
    Standard Grant
Towards Improved Logics For Reasoning About Security
改进安全推理逻辑
  • 批准号:
    0208535
  • 财政年份:
    2002
  • 资助金额:
    $ 42.7万
  • 项目类别:
    Continuing grant
SGER: Decision-making In Complex Systems
SGER:复杂系统中的决策
  • 批准号:
    0090145
  • 财政年份:
    2000
  • 资助金额:
    $ 42.7万
  • 项目类别:
    Standard Grant
Applications of Failure Detection
故障检测的应用
  • 批准号:
    9711403
  • 财政年份:
    1997
  • 资助金额:
    $ 42.7万
  • 项目类别:
    Standard Grant

相似国自然基金

昼夜节律性small RNA在血斑形成时间推断中的法医学应用研究
  • 批准号:
  • 批准年份:
    2024
  • 资助金额:
    0.0 万元
  • 项目类别:
    省市级项目
tRNA-derived small RNA上调YBX1/CCL5通路参与硼替佐米诱导慢性疼痛的机制研究
  • 批准号:
    n/a
  • 批准年份:
    2022
  • 资助金额:
    10.0 万元
  • 项目类别:
    省市级项目
Small RNA调控I-F型CRISPR-Cas适应性免疫性的应答及分子机制
  • 批准号:
    32000033
  • 批准年份:
    2020
  • 资助金额:
    24.0 万元
  • 项目类别:
    青年科学基金项目
Small RNAs调控解淀粉芽胞杆菌FZB42生防功能的机制研究
  • 批准号:
    31972324
  • 批准年份:
    2019
  • 资助金额:
    58.0 万元
  • 项目类别:
    面上项目
变异链球菌small RNAs连接LuxS密度感应与生物膜形成的机制研究
  • 批准号:
    81900988
  • 批准年份:
    2019
  • 资助金额:
    21.0 万元
  • 项目类别:
    青年科学基金项目
肠道细菌关键small RNAs在克罗恩病发生发展中的功能和作用机制
  • 批准号:
    31870821
  • 批准年份:
    2018
  • 资助金额:
    56.0 万元
  • 项目类别:
    面上项目
基于small RNA 测序技术解析鸽分泌鸽乳的分子机制
  • 批准号:
    31802058
  • 批准年份:
    2018
  • 资助金额:
    26.0 万元
  • 项目类别:
    青年科学基金项目
Small RNA介导的DNA甲基化调控的水稻草矮病毒致病机制
  • 批准号:
    31772128
  • 批准年份:
    2017
  • 资助金额:
    60.0 万元
  • 项目类别:
    面上项目
基于small RNA-seq的针灸治疗桥本甲状腺炎的免疫调控机制研究
  • 批准号:
    81704176
  • 批准年份:
    2017
  • 资助金额:
    20.0 万元
  • 项目类别:
    青年科学基金项目
水稻OsSGS3与OsHEN1调控small RNAs合成及其对抗病性的调节
  • 批准号:
    91640114
  • 批准年份:
    2016
  • 资助金额:
    85.0 万元
  • 项目类别:
    重大研究计划

相似海外基金

RI: Small: Towards Abstractive Summarization That Preserves the Original Meaning
RI:小:走向保留原意的抽象概括
  • 批准号:
    2303678
  • 财政年份:
    2022
  • 资助金额:
    $ 42.7万
  • 项目类别:
    Standard Grant
RI: Small: Towards Provably Efficient Representation Learning in Reinforcement Learning via Rich Function Approximation
RI:小:通过丰富函数逼近实现强化学习中可证明有效的表示学习
  • 批准号:
    2154711
  • 财政年份:
    2022
  • 资助金额:
    $ 42.7万
  • 项目类别:
    Standard Grant
RI: Small: Towards Optimal and Adaptive Reinforcement Learning with Offline Data and Limited Adaptivity
RI:小型:利用离线数据和有限的适应性实现最优和自适应强化学习
  • 批准号:
    2007117
  • 财政年份:
    2020
  • 资助金额:
    $ 42.7万
  • 项目类别:
    Standard Grant
RI: Small: Towards Abstractive Summarization That Preserves the Original Meaning
RI:小:走向保留原意的抽象概括
  • 批准号:
    1909603
  • 财政年份:
    2019
  • 资助金额:
    $ 42.7万
  • 项目类别:
    Standard Grant
RI: Small: Learning Dynamics and Evolution towards Cognitive Understanding of Videos
RI:小:视频认知理解的学习动态和演化
  • 批准号:
    1813709
  • 财政年份:
    2018
  • 资助金额:
    $ 42.7万
  • 项目类别:
    Standard Grant
RI: Small: Extending Verb Semantics with Causality towards Physical World
RI:小:将动词语义与因果关系扩展到物理世界
  • 批准号:
    1617682
  • 财政年份:
    2016
  • 资助金额:
    $ 42.7万
  • 项目类别:
    Standard Grant
RI: Small: Dynamic Attractor Computing: A Novel Computational Approach Applied Towards Temporal Pattern and Speech Recognition
RI:小型:动态吸引子计算:一种应用于时间模式和语音识别的新颖计算方法
  • 批准号:
    1420897
  • 财政年份:
    2014
  • 资助金额:
    $ 42.7万
  • 项目类别:
    Standard Grant
RI: Small: Collaborative Research: Towards Modeling Source Separation from Measured Cortical Responses
RI:小型:协作研究:根据测量的皮质反应对源分离进行建模
  • 批准号:
    1320366
  • 财政年份:
    2013
  • 资助金额:
    $ 42.7万
  • 项目类别:
    Standard Grant
RI: Small: Collaborative Research: Towards Modeling Source Separation from Measured Cortical Responses
RI:小型:协作研究:根据测量的皮质反应对源分离进行建模
  • 批准号:
    1320260
  • 财政年份:
    2013
  • 资助金额:
    $ 42.7万
  • 项目类别:
    Standard Grant
RI: Small: Towards Practical Tractability in Constraint Processing
RI:小:实现约束处理的实用易处理性
  • 批准号:
    1117956
  • 财政年份:
    2011
  • 资助金额:
    $ 42.7万
  • 项目类别:
    Standard Grant
{{ showInfoDetail.title }}

作者:{{ showInfoDetail.author }}

知道了