III: Small: Collaborative Research: Towards Interpretable Machine Learning
III:小型:协作研究:迈向可解释的机器学习
基本信息
- 批准号:1525919
- 负责人:
- 金额:$ 25万
- 依托单位:
- 依托单位国家:美国
- 项目类别:Standard Grant
- 财政年份:2015
- 资助国家:美国
- 起止时间:2015-09-01 至 2021-08-31
- 项目状态:已结题
- 来源:
- 关键词:
项目摘要
This research project investigates the design and development of machine learning algorithms that make decisions that are interpretable by humans. As predictions of machine learning models are increasingly used in making decisions with critical consequences (e.g., in medicine or economics), it is important that decision makers understand the rationale behind these predictions. The project defines interpretable algorithms through three key properties; Simplicity: intuitively comprehensible by users who are not experts in machine learning, Verifiability: a clear relationship between input features and model output, and Actionability: For a given input and desired output, the user should be able to identify changes to the input features that transform the model prediction to the desired output. The project investigates how to design distance metrics supporting simplicity and verifiability, as well as algorithms to identify input changes to change outputs. The project will be evaluated in a medical context, addressing the problem of early detection of hospital patients at risk of sudden deterioration.This work builds on the well-understood k-Nearest-Neighbor classifier, which would inherently seem to provide simplicity and verifiability. The challenge is in high dimensions, e.g., when used for document classification; differences are spread across more dimensions than are humanly comprehensible. The project uses novel dimensionality reduction approaches to create dissimilarity metrics that are interpretable and accurate. Visualization techniques to present this data will be explored, including techniques supporting more complex classification approaches such as ensembles. The project investigates novel methods for delivering actionability in machine learning algorithms by identifying changes that can truly transform an entity's class membership - a problem that has recently been identified as surprisingly difficult. A secondary outcome will be improvements in classifier robustness, as small changes that change class membership are a good indication of non-robustness.
这个研究项目调查了机器学习算法的设计和开发,这些算法可以做出人类可以解释的决策。随着机器学习模型的预测越来越多地用于做出具有关键后果的决策(例如,在医学或经济学中),决策者理解这些预测背后的基本原理非常重要。该项目通过三个关键属性定义可解释的算法;简单性:非机器学习专家的用户可以直观地理解;可验证性:输入特征和模型输出之间的明确关系;可操作性:对于给定的输入和期望的输出,用户应该能够识别将模型预测转换为期望输出的输入特征的变化。该项目研究了如何设计支持简单性和可验证性的距离度量,以及识别输入变化到变化输出的算法。该项目将在医疗背景下进行评估,解决早期发现有突然恶化危险的住院病人的问题。这项工作建立在很容易理解的k-Nearest-Neighbor分类器的基础上,它本身似乎提供了简单性和可验证性。挑战在于高维度,例如,当用于文档分类时;差异在更多的维度上蔓延,超出了人类的理解范围。该项目使用新颖的降维方法来创建可解释和准确的差异度量。将探索显示这些数据的可视化技术,包括支持更复杂的分类方法(如集成)的技术。该项目研究了在机器学习算法中提供可操作性的新方法,通过识别可以真正改变实体的类成员资格的变化——这是一个最近被认为非常困难的问题。第二个结果将是分类器鲁棒性的改进,因为改变类隶属度的小变化是非鲁棒性的很好指示。
项目成果
期刊论文数量(9)
专著数量(0)
科研奖励数量(0)
会议论文数量(0)
专利数量(0)
Constant-Time Predictive Distributions for Gaussian Processes
高斯过程的恒定时间预测分布
- DOI:
- 发表时间:2018
- 期刊:
- 影响因子:0
- 作者:Pleiss, G;Gardner, G;Weinberger, K;Wilson, A
- 通讯作者:Wilson, A
Characterizing the Loss Landscape in Non-Negative Matrix Factorization Authors
描述非负矩阵分解作者的损失情况
- DOI:
- 发表时间:2021
- 期刊:
- 影响因子:0
- 作者:Johan Bjorck, Anmol Kabra
- 通讯作者:Johan Bjorck, Anmol Kabra
Deep Feature Interpolation for Image Content Changes
针对图像内容变化的深度特征插值
- DOI:
- 发表时间:2017
- 期刊:
- 影响因子:0
- 作者:Upchurch, P;Gardner, J;Pleiss, G;Pless, R;Snavely, N;Bala, K;Weinberger, K
- 通讯作者:Weinberger, K
Product Kernel Interpolation for Scalable Gaussian Processes
- DOI:
- 发表时间:2018-02
- 期刊:
- 影响因子:0
- 作者:J. Gardner;Geoff Pleiss;Ruihan Wu;Kilian Q. Weinberger;A. Wilson
- 通讯作者:J. Gardner;Geoff Pleiss;Ruihan Wu;Kilian Q. Weinberger;A. Wilson
An empirical study on evaluation metrics of generative adversarial networks
- DOI:
- 发表时间:2018-06
- 期刊:
- 影响因子:0
- 作者:Qiantong Xu;Gao Huang;Yang Yuan;Chuan Guo;Yu Sun;Felix Wu;Kilian Q. Weinberger
- 通讯作者:Qiantong Xu;Gao Huang;Yang Yuan;Chuan Guo;Yu Sun;Felix Wu;Kilian Q. Weinberger
{{
item.title }}
{{ item.translation_title }}
- DOI:
{{ item.doi }} - 发表时间:
{{ item.publish_year }} - 期刊:
- 影响因子:{{ item.factor }}
- 作者:
{{ item.authors }} - 通讯作者:
{{ item.author }}
数据更新时间:{{ journalArticles.updateTime }}
{{ item.title }}
- 作者:
{{ item.author }}
数据更新时间:{{ monograph.updateTime }}
{{ item.title }}
- 作者:
{{ item.author }}
数据更新时间:{{ sciAawards.updateTime }}
{{ item.title }}
- 作者:
{{ item.author }}
数据更新时间:{{ conferencePapers.updateTime }}
{{ item.title }}
- 作者:
{{ item.author }}
数据更新时间:{{ patent.updateTime }}
Kilian Weinberger其他文献
Kilian Weinberger的其他文献
{{
item.title }}
{{ item.translation_title }}
- DOI:
{{ item.doi }} - 发表时间:
{{ item.publish_year }} - 期刊:
- 影响因子:{{ item.factor }}
- 作者:
{{ item.authors }} - 通讯作者:
{{ item.author }}
{{ truncateString('Kilian Weinberger', 18)}}的其他基金
TRIPODS: Data Science for Improved Decision-Making: Learning in the Context of Uncertainty, Causality, Privacy, and Network Structures
TRIPODS:改善决策的数据科学:在不确定性、因果关系、隐私和网络结构的背景下学习
- 批准号:
1740822 - 财政年份:2017
- 资助金额:
$ 25万 - 项目类别:
Standard Grant
RI: AF: Small: Collaborative Research: Differentially Private Learning: From Theory to Applications
RI:AF:小型:协作研究:差异化私人学习:从理论到应用
- 批准号:
1618134 - 财政年份:2016
- 资助金额:
$ 25万 - 项目类别:
Standard Grant
CAREER: New Directions for Metric Learning
职业:度量学习的新方向
- 批准号:
1550179 - 财政年份:2015
- 资助金额:
$ 25万 - 项目类别:
Continuing Grant
32nd International Conference on Machine Learning (ICML 2015)
第32届国际机器学习会议(ICML 2015)
- 批准号:
1523346 - 财政年份:2015
- 资助金额:
$ 25万 - 项目类别:
Standard Grant
CAREER: New Directions for Metric Learning
职业:度量学习的新方向
- 批准号:
1149882 - 财政年份:2012
- 资助金额:
$ 25万 - 项目类别:
Continuing Grant
相似国自然基金
昼夜节律性small RNA在血斑形成时间推断中的法医学应用研究
- 批准号:
- 批准年份:2024
- 资助金额:0.0 万元
- 项目类别:省市级项目
tRNA-derived small RNA上调YBX1/CCL5通路参与硼替佐米诱导慢性疼痛的机制研究
- 批准号:n/a
- 批准年份:2022
- 资助金额:10.0 万元
- 项目类别:省市级项目
Small RNA调控I-F型CRISPR-Cas适应性免疫性的应答及分子机制
- 批准号:32000033
- 批准年份:2020
- 资助金额:24.0 万元
- 项目类别:青年科学基金项目
Small RNAs调控解淀粉芽胞杆菌FZB42生防功能的机制研究
- 批准号:31972324
- 批准年份:2019
- 资助金额:58.0 万元
- 项目类别:面上项目
变异链球菌small RNAs连接LuxS密度感应与生物膜形成的机制研究
- 批准号:81900988
- 批准年份:2019
- 资助金额:21.0 万元
- 项目类别:青年科学基金项目
基于small RNA 测序技术解析鸽分泌鸽乳的分子机制
- 批准号:31802058
- 批准年份:2018
- 资助金额:26.0 万元
- 项目类别:青年科学基金项目
肠道细菌关键small RNAs在克罗恩病发生发展中的功能和作用机制
- 批准号:31870821
- 批准年份:2018
- 资助金额:56.0 万元
- 项目类别:面上项目
Small RNA介导的DNA甲基化调控的水稻草矮病毒致病机制
- 批准号:31772128
- 批准年份:2017
- 资助金额:60.0 万元
- 项目类别:面上项目
基于small RNA-seq的针灸治疗桥本甲状腺炎的免疫调控机制研究
- 批准号:81704176
- 批准年份:2017
- 资助金额:20.0 万元
- 项目类别:青年科学基金项目
水稻OsSGS3与OsHEN1调控small RNAs合成及其对抗病性的调节
- 批准号:91640114
- 批准年份:2016
- 资助金额:85.0 万元
- 项目类别:重大研究计划
相似海外基金
Collaborative Research: III: Small: High-Performance Scheduling for Modern Database Systems
协作研究:III:小型:现代数据库系统的高性能调度
- 批准号:
2322973 - 财政年份:2024
- 资助金额:
$ 25万 - 项目类别:
Standard Grant
Collaborative Research: III: Small: High-Performance Scheduling for Modern Database Systems
协作研究:III:小型:现代数据库系统的高性能调度
- 批准号:
2322974 - 财政年份:2024
- 资助金额:
$ 25万 - 项目类别:
Standard Grant
Collaborative Research: III: Small: A DREAM Proactive Conversational System
合作研究:III:小型:一个梦想的主动对话系统
- 批准号:
2336769 - 财政年份:2024
- 资助金额:
$ 25万 - 项目类别:
Standard Grant
Collaborative Research: III: Small: A DREAM Proactive Conversational System
合作研究:III:小型:一个梦想的主动对话系统
- 批准号:
2336768 - 财政年份:2024
- 资助金额:
$ 25万 - 项目类别:
Standard Grant
III: Small: Multiple Device Collaborative Learning in Real Heterogeneous and Dynamic Environments
III:小:真实异构动态环境中的多设备协作学习
- 批准号:
2311990 - 财政年份:2023
- 资助金额:
$ 25万 - 项目类别:
Standard Grant
Collaborative Research: III: Small: Reconstruction of Diffusion History in Cyber and Human Networks with Applications in Epidemiology and Cybersecurity
合作研究:III:小:重建网络和人类网络中的扩散历史及其在流行病学和网络安全中的应用
- 批准号:
2324770 - 财政年份:2023
- 资助金额:
$ 25万 - 项目类别:
Standard Grant
Collaborative Research: III: Small: Physics Guided Graph Networks for Modeling Water Dynamics in Freshwater Ecosystems
合作研究:III:小型:用于模拟淡水生态系统中水动力学的物理引导图网络
- 批准号:
2316306 - 财政年份:2023
- 资助金额:
$ 25万 - 项目类别:
Standard Grant
Collaborative Research: III: Small: Efficient and Robust Multi-model Data Analytics for Edge Computing
协作研究:III:小型:边缘计算的高效、稳健的多模型数据分析
- 批准号:
2311596 - 财政年份:2023
- 资助金额:
$ 25万 - 项目类别:
Standard Grant
Collaborative Research: III: Small: Efficient and Robust Multi-model Data Analytics for Edge Computing
协作研究:III:小型:边缘计算的高效、稳健的多模型数据分析
- 批准号:
2311598 - 财政年份:2023
- 资助金额:
$ 25万 - 项目类别:
Standard Grant
Collaborative Research: III: Small: Reconstruction of Diffusion History in Cyber and Human Networks with Applications in Epidemiology and Cybersecurity
合作研究:III:小:重建网络和人类网络中的扩散历史及其在流行病学和网络安全中的应用
- 批准号:
2324769 - 财政年份:2023
- 资助金额:
$ 25万 - 项目类别:
Standard Grant