SaTC: CORE: Frontier: Collaborative: End-to-End Trustworthiness of Machine-Learning Systems

SaTC:核心:前沿:协作:机器学习系统的端到端可信度

基本信息

  • 批准号:
    2343611
  • 负责人:
  • 金额:
    $ 497.15万
  • 依托单位:
  • 依托单位国家:
    美国
  • 项目类别:
    Continuing Grant
  • 财政年份:
    2022
  • 资助国家:
    美国
  • 起止时间:
    2022-10-01 至 2024-09-30
  • 项目状态:
    已结题

项目摘要

This frontier project establishes the Center for Trustworthy Machine Learning (CTML), a large-scale, multi-institution, multi-disciplinary effort whose goal is to develop scientific understanding of the risks inherent to machine learning, and to develop the tools, metrics, and methods to manage and mitigate them. The center is led by a cross-disciplinary team developing unified theory, algorithms and empirical methods within complex and ever-evolving ML approaches, application domains, and environments. The science and arsenal of defensive techniques emerging within the center will provide the basis for building future systems in a more trustworthy and secure manner, as well as fostering a long term community of research within this essential domain of technology. The center has a number of outreach efforts, including a massive open online course (MOOC) on this topic, an annual conference, and broad-based educational initiatives. The investigators continue their ongoing efforts at broadening participation in computing via a joint summer school on trustworthy ML aimed at underrepresented groups, and by engaging in activities for high school students across the country via a sequence of webinars advertised through the She++ network and other organizations.The center focuses on three interconnected and parallel investigative directions that represent the different classes of attacks attacking ML systems: inference attacks, training attacks, and abuses of ML. The first direction explores inference time security, namely methods to defend a trained model from adversarial inputs. This effort emphasizes developing formally grounded measurements of robustness against adversarial examples (defenses), as well as understanding the limits and costs of attacks. The second research direction aims to develop rigorously grounded measures of robustness to attacks that corrupt the training data and new training methods that are robust to adversarial manipulation. The final direction tackles the general security implications of sophisticated ML algorithms including the potential abuses of generative ML models, such as models that generate (fake) content, as well as data mechanisms to prevent the theft of a machine learning model by an adversary who interacts with the model.This award reflects NSF's statutory mission and has been deemed worthy of support through evaluation using the Foundation's intellectual merit and broader impacts review criteria.
这个前沿项目建立了值得信赖的机器学习中心(CTML),这是一个大规模、多机构、多学科的努力,其目标是对机器学习固有的风险进行科学理解,并开发管理和缓解这些风险的工具、指标和方法。该中心由一个跨学科团队领导,在复杂和不断发展的ML方法、应用领域和环境中开发统一的理论、算法和经验方法。该中心出现的科学和防御技术武器库将为以更可信和安全的方式构建未来系统提供基础,并在这一关键技术领域培养长期的研究社区。该中心开展了一系列外展工作,包括关于这一主题的大规模在线公开课(MOOC)、年度会议和基础广泛的教育倡议。调查人员继续努力扩大对计算的参与,通过针对代表不足的群体的值得信赖的ML的联合暑期学校,并通过通过SHE++网络和其他组织宣传的一系列网络研讨会,参与全国各地的高中生活动。该中心专注于三个相互关联且平行的调查方向,代表了攻击ML系统的不同类别:推理攻击、训练攻击和滥用ML。第一个方向探索推理时间安全性,即保护训练模型免受对手输入的方法。这项工作强调发展针对对手例子(防御)的健壮性的正式接地测量,以及了解攻击的限度和成本。第二个研究方向旨在开发针对破坏训练数据的攻击的严格接地的稳健性度量,以及对对手操纵具有健壮性的新的训练方法。最后一个方向是解决复杂ML算法的一般安全影响,包括生成性ML模型的潜在滥用,例如生成(虚假)内容的模型,以及防止与模型交互的对手窃取机器学习模型的数据机制。该奖项反映了NSF的法定使命,并通过使用基金会的智力优势和更广泛的影响审查标准进行评估,被认为值得支持。

项目成果

期刊论文数量(17)
专著数量(0)
科研奖励数量(0)
会议论文数量(0)
专利数量(0)
Dissecting Distribution Inference
Adversarial Training Can Hurt Generalization
  • DOI:
  • 发表时间:
    2019-05
  • 期刊:
  • 影响因子:
    0
  • 作者:
    Aditi Raghunathan;Sang Michael Xie;Fanny Yang;John C. Duchi;Percy Liang
  • 通讯作者:
    Aditi Raghunathan;Sang Michael Xie;Fanny Yang;John C. Duchi;Percy Liang
Formalizing and Estimating Distribution Inference Risks
形式化和估计分布推理风险
Suri, Anshuman, Lu, Yifi, Chen, Yanjin, and Evans, David. (2023). Dissecting Distribution Inference. ArXiv.org.
Suri、Ans human、Lu、Yifi、Chen、Yanjin 和 Evans、David。
{{ item.title }}
{{ item.translation_title }}
  • DOI:
    {{ item.doi }}
  • 发表时间:
    {{ item.publish_year }}
  • 期刊:
  • 影响因子:
    {{ item.factor }}
  • 作者:
    {{ item.authors }}
  • 通讯作者:
    {{ item.author }}

数据更新时间:{{ journalArticles.updateTime }}

{{ item.title }}
  • 作者:
    {{ item.author }}

数据更新时间:{{ monograph.updateTime }}

{{ item.title }}
  • 作者:
    {{ item.author }}

数据更新时间:{{ sciAawards.updateTime }}

{{ item.title }}
  • 作者:
    {{ item.author }}

数据更新时间:{{ conferencePapers.updateTime }}

{{ item.title }}
  • 作者:
    {{ item.author }}

数据更新时间:{{ patent.updateTime }}

Patrick McDaniel其他文献

Guest Editors#39; Introduction: Special Issue on Trust, Security, and Privacy in Parallel and Distributed Systemsbr /
客座编辑
A Public and Reproducible Assessment of the Topics API on Real Data
对真实数据上的主题 API 进行公开且可重复的评估
  • DOI:
    10.1109/spw63631.2024.00005
  • 发表时间:
    2024
  • 期刊:
  • 影响因子:
    0
  • 作者:
    Yohan Beugin;Patrick McDaniel
  • 通讯作者:
    Patrick McDaniel
Guest Editors' Introduction: Special Issue on Trust, Security, and Privacy in Parallel and Distributed Systems<br />
Characterizing the Modification Space of Signature IDS Rules
表征签名 IDS 规则的修改空间

Patrick McDaniel的其他文献

{{ item.title }}
{{ item.translation_title }}
  • DOI:
    {{ item.doi }}
  • 发表时间:
    {{ item.publish_year }}
  • 期刊:
  • 影响因子:
    {{ item.factor }}
  • 作者:
    {{ item.authors }}
  • 通讯作者:
    {{ item.author }}

{{ truncateString('Patrick McDaniel', 18)}}的其他基金

Collaborative Research: Conference: SaTC: CORE: 2.0 Vision Proposal
协作研究:会议:SaTC:核心:2.0 愿景提案
  • 批准号:
    2316832
  • 财政年份:
    2023
  • 资助金额:
    $ 497.15万
  • 项目类别:
    Standard Grant
Travel: NSF Student Travel Grant for 2023 IEEE Conference on Secure and Trustworthy Machine Learning (IEEE SaTML)
旅行:2023 年 IEEE 安全可信机器学习会议 (IEEE SaTML) 的 NSF 学生旅行补助金
  • 批准号:
    2317300
  • 财政年份:
    2023
  • 资助金额:
    $ 497.15万
  • 项目类别:
    Standard Grant
Travel: NSF Student Travel Grant for 2023 IEEE Conference on Secure and Trustworthy Machine Learning (IEEE SaTML)
旅行:2023 年 IEEE 安全可信机器学习会议 (IEEE SaTML) 的 NSF 学生旅行补助金
  • 批准号:
    2233869
  • 财政年份:
    2023
  • 资助金额:
    $ 497.15万
  • 项目类别:
    Standard Grant
CNS Core: Medium: Automated IoT Safety and Security Analysis and Synthesis
CNS 核心:中:自动化物联网安全分析与综合
  • 批准号:
    2320882
  • 财政年份:
    2022
  • 资助金额:
    $ 497.15万
  • 项目类别:
    Continuing Grant
CNS Core: Medium: Automated IoT Safety and Security Analysis and Synthesis
CNS 核心:中:自动化物联网安全分析与综合
  • 批准号:
    1900873
  • 财政年份:
    2019
  • 资助金额:
    $ 497.15万
  • 项目类别:
    Continuing Grant
SaTC: CORE: Frontier: Collaborative: End-to-End Trustworthiness of Machine-Learning Systems
SaTC:核心:前沿:协作:机器学习系统的端到端可信度
  • 批准号:
    1805310
  • 财政年份:
    2018
  • 资助金额:
    $ 497.15万
  • 项目类别:
    Continuing Grant
TWC: Medium: Collaborative: Scaling and Prioritizing Market-Sized Application Analysis
TWC:媒介:协作:扩展和优先考虑市场规模的应用程序分析
  • 批准号:
    1564105
  • 财政年份:
    2016
  • 资助金额:
    $ 497.15万
  • 项目类别:
    Continuing Grant
2017 SaTC PI Meeting
2017年SaTC PI会议
  • 批准号:
    1646743
  • 财政年份:
    2016
  • 资助金额:
    $ 497.15万
  • 项目类别:
    Standard Grant
TWC: Medium: Collaborative: Extending Smart-Phone Application Analysis
TWC:媒介:协作:扩展智能手机应用程序分析
  • 批准号:
    1228700
  • 财政年份:
    2012
  • 资助金额:
    $ 497.15万
  • 项目类别:
    Standard Grant
TC: Medium: Collaborative Research: Building Trustworthy Applications for Mobile Devices
TC:媒介:协作研究:为移动设备构建值得信赖的应用程序
  • 批准号:
    1064900
  • 财政年份:
    2011
  • 资助金额:
    $ 497.15万
  • 项目类别:
    Standard Grant

相似国自然基金

胆固醇羟化酶CH25H非酶活依赖性促进乙型肝炎病毒蛋白Core及Pre-core降解的分子机制研究
  • 批准号:
    82371765
  • 批准年份:
    2023
  • 资助金额:
    50 万元
  • 项目类别:
    面上项目
锕系元素5f-in-core的GTH赝势和基组的开发
  • 批准号:
    22303037
  • 批准年份:
    2023
  • 资助金额:
    30 万元
  • 项目类别:
    青年科学基金项目
基于合成致死策略搭建Core-matched前药共组装体克服肿瘤耐药的机制研究
  • 批准号:
  • 批准年份:
    2022
  • 资助金额:
    52 万元
  • 项目类别:
鼠伤寒沙门氏菌LPS core经由CD209/SphK1促进树突状细胞迁移加重炎症性肠病的机制研究
  • 批准号:
  • 批准年份:
    2022
  • 资助金额:
    30 万元
  • 项目类别:
    青年科学基金项目
肌营养不良蛋白聚糖Core M3型甘露糖肽的精确制备及功能探索
  • 批准号:
    92053110
  • 批准年份:
    2020
  • 资助金额:
    70.0 万元
  • 项目类别:
    重大研究计划
Core-1-O型聚糖黏蛋白缺陷诱导胃炎发生并介导慢性胃炎向胃癌转化的分子机制研究
  • 批准号:
    81902805
  • 批准年份:
    2019
  • 资助金额:
    20.5 万元
  • 项目类别:
    青年科学基金项目
原始地球增生晚期的Core-merging大碰撞事件:地核增生、核幔平衡与核幔边界结构的新认识
  • 批准号:
    41973063
  • 批准年份:
    2019
  • 资助金额:
    65.0 万元
  • 项目类别:
    面上项目
RBM38通过协助Pol-ε结合、招募core调控HBV复制
  • 批准号:
    31900138
  • 批准年份:
    2019
  • 资助金额:
    24.0 万元
  • 项目类别:
    青年科学基金项目
CORDEX-CORE区域气候模拟与预估研讨会
  • 批准号:
    41981240365
  • 批准年份:
    2019
  • 资助金额:
    1.5 万元
  • 项目类别:
    国际(地区)合作与交流项目

相似海外基金

CNS Core: Small: Collaborative Research: Attaining the New Frontier of Spectral Efficiency with Tradeoffs in Computation Through Cloud Radio Access Networks
CNS 核心:小型:协作研究:通过云无线接入网络权衡计算实现频谱效率的新前沿
  • 批准号:
    1909186
  • 财政年份:
    2019
  • 资助金额:
    $ 497.15万
  • 项目类别:
    Standard Grant
CNS Core: Small: Collaborative Research: Attaining the New Frontier of Spectral Efficiency with Tradeoffs in Computation Through Cloud Radio Access Networks
CNS 核心:小型:协作研究:通过云无线接入网络权衡计算实现频谱效率的新前沿
  • 批准号:
    1910594
  • 财政年份:
    2019
  • 资助金额:
    $ 497.15万
  • 项目类别:
    Standard Grant
SaTC: CORE: Frontier: Collaborative: End-to-End Trustworthiness of Machine-Learning Systems
SaTC:核心:前沿:协作:机器学习系统的端到端可信度
  • 批准号:
    1804648
  • 财政年份:
    2018
  • 资助金额:
    $ 497.15万
  • 项目类别:
    Continuing Grant
SaTC: CORE: Frontier: Collaborative: End-to-End Trustworthiness of Machine-Learning Systems
SaTC:核心:前沿:协作:机器学习系统的端到端可信度
  • 批准号:
    1805310
  • 财政年份:
    2018
  • 资助金额:
    $ 497.15万
  • 项目类别:
    Continuing Grant
SaTC: CORE: Frontier: Collaborative: End-to-End Trustworthiness of Machine-Learning Systems
SaTC:核心:前沿:协作:机器学习系统的端到端可信度
  • 批准号:
    1804829
  • 财政年份:
    2018
  • 资助金额:
    $ 497.15万
  • 项目类别:
    Continuing Grant
SaTC: CORE: Frontier: Collaborative: End-to-End Trustworthiness of Machine-Learning Systems
SaTC:核心:前沿:协作:机器学习系统的端到端可信度
  • 批准号:
    1804794
  • 财政年份:
    2018
  • 资助金额:
    $ 497.15万
  • 项目类别:
    Continuing Grant
SaTC: CORE: Frontier: Collaborative: End-to-End Trustworthiness of Machine-Learning Systems
SaTC:核心:前沿:协作:机器学习系统的端到端可信度
  • 批准号:
    1804222
  • 财政年份:
    2018
  • 资助金额:
    $ 497.15万
  • 项目类别:
    Continuing Grant
SaTC: CORE: Frontier: Collaborative: End-to-End Trustworthiness of Machine-Learning Systems
SaTC:核心:前沿:协作:机器学习系统的端到端可信度
  • 批准号:
    1804603
  • 财政年份:
    2018
  • 资助金额:
    $ 497.15万
  • 项目类别:
    Continuing Grant
TWC: Frontier: Collaborative: CORE: Center for Encrypted Functionalities
TWC:前沿:协作:CORE:加密功能中心
  • 批准号:
    1414023
  • 财政年份:
    2014
  • 资助金额:
    $ 497.15万
  • 项目类别:
    Continuing Grant
Enabling High Energy Physics at the Information Frontier Using GPUs and Other Many/Multi-Core Architectures
使用 GPU 和其他多核架构在信息前沿实现高能物理
  • 批准号:
    1414736
  • 财政年份:
    2014
  • 资助金额:
    $ 497.15万
  • 项目类别:
    Continuing Grant
{{ showInfoDetail.title }}

作者:{{ showInfoDetail.author }}

知道了