Collaborative Research: AF: Small: Exploring the Frontiers of Adversarial Robustness

合作研究:AF:小型:探索对抗鲁棒性的前沿

基本信息

  • 批准号:
    2335412
  • 负责人:
  • 金额:
    $ 30万
  • 依托单位:
  • 依托单位国家:
    美国
  • 项目类别:
    Standard Grant
  • 财政年份:
    2024
  • 资助国家:
    美国
  • 起止时间:
    2024-01-01 至 2026-12-31
  • 项目状态:
    未结题

项目摘要

In an age where artificial intelligence (AI) is deeply integrated into our lives yet both cyber and physical threats are ever-present, robustness to adversarial input is critically important for ensuring the reliability, security, and trustworthiness of algorithmic design in the face of intentional attacks and manipulations. Unfortunately, many standard big data algorithms are susceptible to exploitation by adversarial input, resulting in major roadblocks to the widespread deployment of AI in safety-critical domains like healthcare and finance. The goal of this project is to identify and address new emerging directions in adversarial robustness and to develop the fundamental principles underlying vulnerabilities to adversarial input. The project will not only realize new elements of algorithmic design and mathematical tools, but also have immediate impact on the wide-ranging applications of trustworthy artificial intelligence. The research team will involve graduate students in this project and plans two workshops on new directions in adversarial robustness and adaptive data analysis. In addition, the team will initiate outreach with a local high school to mentor students in grades 5-12.The goal of this project is to develop new big data algorithms that are robust to adversarial input. At a high level, the primary focal points of this project are: 1) adversarial robustness in the black-box streaming setting, where an adversary has access to the previous outputs but not the internal states of the algorithm, 2) adversarial robustness in the white-box streaming setting, where an adversary additionally has access to the internal state and previous random bits used by the algorithm, and 3) adaptive data analysis with bounded space. Additionally, the research team will explore and integrate new attack models as they emerge, allowing for continuous adaptation to evolving challenges.This award reflects NSF's statutory mission and has been deemed worthy of support through evaluation using the Foundation's intellectual merit and broader impacts review criteria.
在人工智能(AI)深度融入我们的生活但网络和物理威胁始终存在的时代,对于面对故意攻击和操纵的算法设计的可靠性、安全性和可信性来说,对对手输入的健壮性至关重要。不幸的是,许多标准的大数据算法容易受到敌意输入的利用,导致人工智能在医疗保健和金融等安全关键领域的广泛部署遭遇重大障碍。该项目的目标是确定和处理对抗性稳健性方面新出现的方向,并制定对抗性投入脆弱性的基本原则。该项目不仅将实现算法设计和数学工具的新元素,还将对值得信赖的人工智能的广泛应用产生立竿见影的影响。研究小组将让研究生参与这一项目,并计划就对抗稳健性和适应性数据分析的新方向举办两次研讨会。此外,该团队将启动与当地一所高中的外联活动,以指导5-12年级的学生。该项目的目标是开发新的大数据算法,该算法对对手的输入具有健壮性。在高层次上,该项目的主要关注点是:1)黑盒流传输环境中的对抗稳健性,其中对手可以访问先前的输出但不能访问算法的内部状态;2)白盒流传输环境中的对抗稳健性,其中对手另外可以访问算法使用的内部状态和先前的随机比特;以及3)有限空间的自适应数据分析。此外,研究团队将在新的攻击模型出现时探索和整合它们,允许不断适应不断变化的挑战。这一奖项反映了NSF的法定使命,并通过使用基金会的智力优势和更广泛的影响审查标准进行评估,被认为值得支持。

项目成果

期刊论文数量(0)
专著数量(0)
科研奖励数量(0)
会议论文数量(0)
专利数量(0)

数据更新时间:{{ journalArticles.updateTime }}

{{ item.title }}
{{ item.translation_title }}
  • DOI:
    {{ item.doi }}
  • 发表时间:
    {{ item.publish_year }}
  • 期刊:
  • 影响因子:
    {{ item.factor }}
  • 作者:
    {{ item.authors }}
  • 通讯作者:
    {{ item.author }}

数据更新时间:{{ journalArticles.updateTime }}

{{ item.title }}
  • 作者:
    {{ item.author }}

数据更新时间:{{ monograph.updateTime }}

{{ item.title }}
  • 作者:
    {{ item.author }}

数据更新时间:{{ sciAawards.updateTime }}

{{ item.title }}
  • 作者:
    {{ item.author }}

数据更新时间:{{ conferencePapers.updateTime }}

{{ item.title }}
  • 作者:
    {{ item.author }}

数据更新时间:{{ patent.updateTime }}

David Woodruff其他文献

Visions in Theoretical Computer Science: A Report on the TCS Visioning Workshop 2020
理论计算机科学的愿景:2020 年 TCS 愿景研讨会报告
  • DOI:
  • 发表时间:
    2021
  • 期刊:
  • 影响因子:
    0
  • 作者:
    Shuchi Chawla;Jelani Nelson;C. Umans;David Woodruff
  • 通讯作者:
    David Woodruff
Linear Models for Item Scores: Reliability, Covariance Structure, and Psychometric Inference
项目分数的线性模型:可靠性、协方差结构和心理测量推理
  • DOI:
  • 发表时间:
    1993
  • 期刊:
  • 影响因子:
    0
  • 作者:
    David Woodruff
  • 通讯作者:
    David Woodruff
Grass: Compute Efficient Low-Memory LLM Training with Structured Sparse Gradients
Grass:使用结构化稀疏梯度计算高效的低内存 LLM 训练
  • DOI:
  • 发表时间:
    2024
  • 期刊:
  • 影响因子:
    0
  • 作者:
    Aashiq Muhamed;Oscar Li;David Woodruff;Mona Diab;Virginia Smith
  • 通讯作者:
    Virginia Smith
A Primate Genome Project Deserves High Priority
灵长类动物基因组计划值得高度重视
  • DOI:
  • 发表时间:
    2000
  • 期刊:
  • 影响因子:
    56.9
  • 作者:
    E. McConkey;A. Varki;J. Allman;K. Benirschke;F. Crick;T. Deacon;F. D. de Waal;A. Dugaiczyk;P. Gagneux;M. Goodman;L. Grossman;D. Gumucio;T. Insel;K. Kidd;M. King;K. Krauter;R. Kucherlapati;A. Motulsky;D. Nelson;P. Oefner;George E. Palade;George E. Palade;O. Ryder;C. Stewart;J. Sikela;A. Stone;David Woodruff
  • 通讯作者:
    David Woodruff
“Socialist Accounting” by Karl Polanyi: with preface “Socialism and the embedded economy”
  • DOI:
    10.1007/s11186-016-9276-9
  • 发表时间:
    2016-08-17
  • 期刊:
  • 影响因子:
    1.400
  • 作者:
    Johanna Bockman;Ariane Fischer;David Woodruff
  • 通讯作者:
    David Woodruff

David Woodruff的其他文献

{{ item.title }}
{{ item.translation_title }}
  • DOI:
    {{ item.doi }}
  • 发表时间:
    {{ item.publish_year }}
  • 期刊:
  • 影响因子:
    {{ item.factor }}
  • 作者:
    {{ item.authors }}
  • 通讯作者:
    {{ item.author }}

{{ truncateString('David Woodruff', 18)}}的其他基金

Travel Support for 16th Tri-Annual International Conference on Stochastic Programming (ICSP); Davis, California; 24-28 July 2023
第 16 届三年一度的随机规划国际会议 (ICSP) 的差旅支持;
  • 批准号:
    2309931
  • 财政年份:
    2023
  • 资助金额:
    $ 30万
  • 项目类别:
    Standard Grant
AF: Small: Data Stream Algorithms with Application to Linear Algebra
AF:小:数据流算法及其在线性代数中的应用
  • 批准号:
    1815840
  • 财政年份:
    2018
  • 资助金额:
    $ 30万
  • 项目类别:
    Standard Grant
New insights into complex molecule-surface interactions through local structure determination
通过局部结构测定对复杂分子-表面相互作用的新见解
  • 批准号:
    EP/D034329/1
  • 财政年份:
    2006
  • 资助金额:
    $ 30万
  • 项目类别:
    Research Grant
Surface, subsurface and buried interface structure at the atomic scale; pushing the limits of medium energy ion scattering
原子尺度的表面、次表面和埋入界面结构;
  • 批准号:
    EP/E021786/1
  • 财政年份:
    2006
  • 资助金额:
    $ 30万
  • 项目类别:
    Research Grant
Molecular Evolution and Systematics of Marmosets (Primates: Callithrix)
狨猴的分子进化和系统学(灵长类动物:Callithrix)
  • 批准号:
    9511194
  • 财政年份:
    1995
  • 资助金额:
    $ 30万
  • 项目类别:
    Standard Grant
CRB: Population Viability and Biodiversity Following Rainforest Fragmentation
CRB:雨林破碎化后的人口生存能力和生物多样性
  • 批准号:
    9300182
  • 财政年份:
    1993
  • 资助金额:
    $ 30万
  • 项目类别:
    Standard Grant
DNA Sequences and Fingerprints from Chimpanzee Hair: A New Approach to Establishing Genetic and Evolutionary Relationships
黑猩猩毛发的 DNA 序列和指纹:建立遗传和进化关系的新方法
  • 批准号:
    9011896
  • 财政年份:
    1990
  • 资助金额:
    $ 30万
  • 项目类别:
    Continuing Grant
CRB: Population Viability of Tropical Forest Vertebrates
CRB:热带森林脊椎动物的种群活力
  • 批准号:
    9000486
  • 财政年份:
    1990
  • 资助金额:
    $ 30万
  • 项目类别:
    Continuing Grant
Genetic Variation and Systematics of Cerion and Biomphalaria(Mollusca: Gastropoda)
Cerion 和 Bimphalaria(软体动物:腹足纲)的遗传变异和系统学
  • 批准号:
    8500733
  • 财政年份:
    1985
  • 资助金额:
    $ 30万
  • 项目类别:
    Standard Grant
Genetics of Host-Parasite Compatibility: Snail Resistance to a Trematode
宿主-寄生虫相容性的遗传学:蜗牛对吸虫的抗性
  • 批准号:
    8311210
  • 财政年份:
    1984
  • 资助金额:
    $ 30万
  • 项目类别:
    Standard Grant

相似国自然基金

Research on Quantum Field Theory without a Lagrangian Description
  • 批准号:
    24ZR1403900
  • 批准年份:
    2024
  • 资助金额:
    0.0 万元
  • 项目类别:
    省市级项目
Cell Research
  • 批准号:
    31224802
  • 批准年份:
    2012
  • 资助金额:
    24.0 万元
  • 项目类别:
    专项基金项目
Cell Research
  • 批准号:
    31024804
  • 批准年份:
    2010
  • 资助金额:
    24.0 万元
  • 项目类别:
    专项基金项目
Cell Research (细胞研究)
  • 批准号:
    30824808
  • 批准年份:
    2008
  • 资助金额:
    24.0 万元
  • 项目类别:
    专项基金项目
Research on the Rapid Growth Mechanism of KDP Crystal
  • 批准号:
    10774081
  • 批准年份:
    2007
  • 资助金额:
    45.0 万元
  • 项目类别:
    面上项目

相似海外基金

Collaborative Research: AF: Medium: The Communication Cost of Distributed Computation
合作研究:AF:媒介:分布式计算的通信成本
  • 批准号:
    2402836
  • 财政年份:
    2024
  • 资助金额:
    $ 30万
  • 项目类别:
    Continuing Grant
Collaborative Research: AF: Medium: Foundations of Oblivious Reconfigurable Networks
合作研究:AF:媒介:遗忘可重构网络的基础
  • 批准号:
    2402851
  • 财政年份:
    2024
  • 资助金额:
    $ 30万
  • 项目类别:
    Continuing Grant
Collaborative Research: AF: Small: New Directions in Algorithmic Replicability
合作研究:AF:小:算法可复制性的新方向
  • 批准号:
    2342244
  • 财政年份:
    2024
  • 资助金额:
    $ 30万
  • 项目类别:
    Standard Grant
Collaborative Research: AF: Small: Exploring the Frontiers of Adversarial Robustness
合作研究:AF:小型:探索对抗鲁棒性的前沿
  • 批准号:
    2335411
  • 财政年份:
    2024
  • 资助金额:
    $ 30万
  • 项目类别:
    Standard Grant
NSF-BSF: Collaborative Research: AF: Small: Algorithmic Performance through History Independence
NSF-BSF:协作研究:AF:小型:通过历史独立性实现算法性能
  • 批准号:
    2420942
  • 财政年份:
    2024
  • 资助金额:
    $ 30万
  • 项目类别:
    Standard Grant
Collaborative Research: AF: Medium: Algorithms Meet Machine Learning: Mitigating Uncertainty in Optimization
协作研究:AF:媒介:算法遇见机器学习:减轻优化中的不确定性
  • 批准号:
    2422926
  • 财政年份:
    2024
  • 资助金额:
    $ 30万
  • 项目类别:
    Continuing Grant
Collaborative Research: AF: Small: Structural Graph Algorithms via General Frameworks
合作研究:AF:小型:通过通用框架的结构图算法
  • 批准号:
    2347322
  • 财政年份:
    2024
  • 资助金额:
    $ 30万
  • 项目类别:
    Standard Grant
Collaborative Research: AF: Small: Real Solutions of Polynomial Systems
合作研究:AF:小:多项式系统的实数解
  • 批准号:
    2331401
  • 财政年份:
    2024
  • 资助金额:
    $ 30万
  • 项目类别:
    Standard Grant
Collaborative Research: AF: Small: Real Solutions of Polynomial Systems
合作研究:AF:小:多项式系统的实数解
  • 批准号:
    2331400
  • 财政年份:
    2024
  • 资助金额:
    $ 30万
  • 项目类别:
    Standard Grant
Collaborative Research: AF: Medium: Fast Combinatorial Algorithms for (Dynamic) Matchings and Shortest Paths
合作研究:AF:中:(动态)匹配和最短路径的快速组合算法
  • 批准号:
    2402283
  • 财政年份:
    2024
  • 资助金额:
    $ 30万
  • 项目类别:
    Continuing Grant
{{ showInfoDetail.title }}

作者:{{ showInfoDetail.author }}

知道了