权益分类	功能权益	普通用户	{{item.name}}会员
{{category.name}}	{{benefitItem.name}}

EAGER: Creating an Unsupervised Interpretable Representation of the World Through Concept Disentanglement

EAGER：通过概念解开创建一个无监督的、可解释的世界表征

基本信息

批准号：
2130250
负责人：
Cynthia Rudin
金额：
$ 16.93万
依托单位：
Duke University
依托单位国家：
美国
项目类别：
Standard Grant
财政年份：
2021
资助国家：
美国
起止时间：
2021-11-01 至 2024-10-31
项目状态：
已结题

来源：
https://www.nsf.gov/awardsearch/showAward?AWD_ID=2130250&HistoricalAwards=false
关键词：
EAGER Creating Unsupervised Interpretable Representation

项目摘要

Humans are able to break down a large entity into smaller and simpler concepts, just from having seen many objects and their relationships. Reproducing this type of behavior in a machine learning model has several benefits. In particular, it could lead to computational ways of representing the world that are interpretable yet powerful. These new representations could be used within machine learning algorithms, allowing the algorithms to be more robust and more likely to generalize when the underlying situations change. For instance, if an algorithm has found a collection of parts that an object is typically comprised of, then it can use those parts to identify this type of object even when it is in an unusual setting, or when the object itself is unusual. This new way of representing the world will allow more robust and generalizable machine learning models. This will be particularly helpful for difficult challenges in computer vision, including problems related to vision systems in automated vehicles, analysis of medical time-series, and materials science problems related to the understanding of material properties and discovery of new materials.Specifically, the main goal of this project is learning with interpretable learned concepts using a disentangled neural network. The approach breaks the problem down into three steps that each could be manageable, and each step can be checked and improved independently of the other steps. The steps are to decompose each observation into local parts, identify possible concepts by looking at common relationships between the local parts, and align the proposed concepts, based on their semantic meaning, within a disentangled neural network. The discovered concepts will be interpretable and can be used as features for many downstream tasks. The disentangled neural networks built from these concepts could potentially generalize more easily to new situations than other approaches.This award reflects NSF's statutory mission and has been deemed worthy of support through evaluation using the Foundation's intellectual merit and broader impacts review criteria.

人类能够将一个大的实体分解成更小更简单的概念，仅仅是因为看到了许多物体和它们之间的关系。在机器学习模型中重现这种行为有几个好处。特别是，它可能会导致可解释但功能强大的表示世界的计算方法。这些新的表示可以在机器学习算法中使用，使算法更加鲁棒，并且在底层情况发生变化时更有可能泛化。例如，如果一个算法发现了一个对象通常由部分组成的集合，那么它可以使用这些部分来识别这种类型的对象，即使它处于不寻常的设置中，或者对象本身是不寻常的。这种表示世界的新方式将使机器学习模型更加健壮和通用。这将特别有助于解决计算机视觉中的困难挑战，包括与自动驾驶车辆的视觉系统相关的问题，医疗时间序列的分析，以及与理解材料特性和发现新材料相关的材料科学问题。具体来说，这个项目的主要目标是使用一个解纠缠的神经网络来学习可解释的学习概念。该方法将问题分解为三个步骤，每个步骤都可以管理，并且每个步骤都可以独立于其他步骤进行检查和改进。步骤是将每个观察结果分解为局部部分，通过查看局部部分之间的共同关系来识别可能的概念，并在解缠的神经网络中根据其语义对齐所提出的概念。发现的概念将是可解释的，并且可以用作许多下游任务的特征。与其他方法相比，从这些概念构建的解纠缠神经网络可能更容易泛化到新情况。该奖项反映了美国国家科学基金会的法定使命，并通过使用基金会的知识价值和更广泛的影响审查标准进行评估，被认为值得支持。

项目成果

期刊论文数量（6）

专著数量（0）

科研奖励数量（0）

会议论文数量（0）

专利数量（0）

This Looks Like Those: Illuminating Prototypical Concepts Using Multiple Visualizations

DOI：
10.48550/arxiv.2310.18589
发表时间：
2023-10
期刊：
ArXiv
影响因子：
0
作者：
Chiyu Ma;Brandon Zhao;Chaofan Chen;Cynthia Rudin
通讯作者：
Chiyu Ma;Brandon Zhao;Chaofan Chen;Cynthia Rudin

OKRidge: Scalable Optimal k-Sparse Ridge Regression

OKRidge：可扩展的最优 k-稀疏岭回归

DOI：
发表时间：
2023
期刊：
Advances in Neural Information Processing Systems
影响因子：
0
作者：
Liu, Jiachang Liu;Rosen, Sam;Zhong, Chudi;Rudin, Cynthia
通讯作者：
Rudin, Cynthia

A Path to Simpler Models Starts With Noise

通往更简单模型的道路从噪声开始

DOI：
发表时间：
2023
期刊：
Advances in Neural Information Processing Systems
影响因子：
0
作者：
Semenova, Lesia;Chen, Harry;Parr, Ronald;Rudin, Cynthia
通讯作者：
Rudin, Cynthia

Exploring and Interacting with the Set of Good Sparse Generalized Additive Models

探索一组良好的稀疏广义可加模型并与之交互

DOI：
发表时间：
2023
期刊：
Advances in Neural Information Processing Systems
影响因子：
0
作者：
Zhong, Chudi;Chen, Zhi;Liu, Jiachang;Seltzer, Margo;Rudin, Cynthia
通讯作者：
Rudin, Cynthia

The Rashomon Importance Distribution: Getting RID of Unstable, Single Model-based Variable Importance

DOI：
10.48550/arxiv.2309.13775
发表时间：
2023-09
期刊：
ArXiv
影响因子：
0
作者：
J. Donnelly;Srikar Katta;C. Rudin;E. Browne
通讯作者：
J. Donnelly;Srikar Katta;C. Rudin;E. Browne

DOI：
{{ item.doi }}
发表时间：
{{ item.publish_year }}
期刊：
{{ item.journal_name }}
影响因子：
{{ item.factor }}
作者：
{{ item.authors }}
通讯作者：
{{ item.author }}

数据更新时间：{{ journalArticles.updateTime }}

作者：
{{ item.author }}

数据更新时间：{{ monograph.updateTime }}

作者：
{{ item.author }}

数据更新时间：{{ sciAawards.updateTime }}

作者：
{{ item.author }}

数据更新时间：{{ conferencePapers.updateTime }}

作者：
{{ item.author }}

数据更新时间：{{ patent.updateTime }}

Cynthia Rudin其他文献

Fast and Interpretable Mortality Risk Scores for Critical Care Patients

重症监护患者快速且可解释的死亡风险评分

DOI：
发表时间：
2023
期刊：
arXiv.org
影响因子：
0
作者：
Chloe Qinyu Zhu;Muhang Tian;Lesia Semenova;Jiachang Liu;Jack Xu;Joseph Scarpa;Cynthia Rudin
通讯作者：
Cynthia Rudin

Exploring the Whole Rashomon Set of Sparse Decision Trees

探索整个罗生门稀疏决策树集

DOI：
发表时间：
2022
期刊：
影响因子：
0
作者：
Rui Xin;Chudi Zhong;Zhi Chen;Takuya Takagi;Margo Seltzer;Cynthia Rudin
通讯作者：
Cynthia Rudin

Graph-based design of irregular metamaterials

基于图的不规则超材料设计

DOI：
10.1016/j.ijmecsci.2025.110203
发表时间：
2025-06-01
期刊：
INTERNATIONAL JOURNAL OF MECHANICAL SCIENCES
影响因子：
9.400
作者：
Rayehe Karimi Mahabadi;Zhi Chen;Alexander C. Ogren;Han Zhang;Chiara Daraio;Cynthia Rudin;L. Catherine Brinson
通讯作者：
L. Catherine Brinson