CIF: Small: Adversarially Robust Statistical Inference

CIF:小:对抗性稳健的统计推断

基本信息

  • 批准号:
    1908258
  • 负责人:
  • 金额:
    $ 50万
  • 依托单位:
  • 依托单位国家:
    美国
  • 项目类别:
    Standard Grant
  • 财政年份:
    2019
  • 资助国家:
    美国
  • 起止时间:
    2019-10-01 至 2023-09-30
  • 项目状态:
    已结题

项目摘要

With machine learning and statistical inference algorithms increasingly used in safety-critical and security-related applications, there arises a pressing need to study the robustness of these algorithms in adversarial environments. The large existing body of work on robust statistical inference mainly addresses issues such as outliers or model uncertainties. However, in many recent data analytical applications (including safety-critical applications), one faces situations which are more severe than those addressed thus far. One such scenario occurs when an adversary can observe the whole data stream, and then devise its attack vector to modify all entries in the data set so as to inflict maximum inference errors. The existence of such powerful adversaries calls for new models and methodologies to carry out adversary-robust inference. The successful development of these models and methodologies will expand scenarios where machine learning algorithms can be safely applied, and thus expand the application of machine learning into safety-critical domains. This project will support educational activities to attract members from underrepresented groups into research. In this project, the investigator will address robust inference in the presence of powerful adversaries. In particular, after the data points are generated, the adversary can observe the whole dataset, and then modify all data points with the hope of inflicting maximum inference errors. This project aims to answer the following questions: 1) What is the attacker's optimal attack strategy in choosing the attack vectors?; 2) What are the possible impacts of these attacks?; and 3) How should inference algorithms be designed to minimize the impact of an attack? These questions will be addressed through two related thrusts. In Thrust 1, the fundamental limits of adversarially-robust inference algorithms will be characterized; this include characterizing the optimal attack strategy and its impacts on the inference performance. The investigator will then seek to identify inference algorithms that minimize the corresponding impact. In Thrust 2, the adversarial robustness of practical inference algorithms will be studied. In practice, many inference problems are formulated as optimization problems, which are then solved using various optimization algorithms. The implementation of these optimization algorithms are often distributed in nature, and this introduces several new threats that will be addressed in this thrust.This award reflects NSF's statutory mission and has been deemed worthy of support through evaluation using the Foundation's intellectual merit and broader impacts review criteria.
随着机器学习和统计推理算法越来越多地用于安全关键和安全相关的应用,迫切需要研究这些算法在对抗环境中的鲁棒性。现有大量关于稳健统计推断的工作主要解决异常值或模型不确定性等问题。然而,在许多最近的数据分析应用程序(包括安全关键型应用程序)中,人们面临的情况比迄今为止所解决的情况更为严重。当攻击者可以观察整个数据流,然后设计其攻击向量来修改数据集中的所有条目,从而造成最大的推理错误时,就会出现这样的场景。如此强大的对手的存在需要新的模型和方法来进行对手鲁棒性推断。这些模型和方法的成功开发将扩展机器学习算法可以安全应用的场景,从而将机器学习的应用扩展到安全关键领域。该项目将支持教育活动,以吸引代表性不足群体的成员参与研究。在这个项目中,研究者将在强大的对手面前解决健壮的推理问题。特别是,在生成数据点之后,攻击者可以观察整个数据集,然后修改所有数据点,以期造成最大的推理错误。本课题旨在回答以下问题:1)攻击者在选择攻击向量时的最优攻击策略是什么?2)这些攻击可能产生的影响是什么?3)如何设计推理算法以最小化攻击的影响?这些问题将通过两个相关的重点加以解决。在推力1中,将描述对抗鲁棒推理算法的基本限制;这包括表征最优攻击策略及其对推理性能的影响。然后,研究者将寻求识别推理算法,以尽量减少相应的影响。在推力2中,将研究实际推理算法的对抗鲁棒性。在实践中,许多推理问题被表述为优化问题,然后使用各种优化算法来求解。这些优化算法的实现通常是分布式的,这就引入了一些新的威胁,这些威胁将在本文中得到解决。该奖项反映了美国国家科学基金会的法定使命,并通过使用基金会的知识价值和更广泛的影响审查标准进行评估,被认为值得支持。

项目成果

期刊论文数量(17)
专著数量(0)
科研奖励数量(0)
会议论文数量(0)
专利数量(0)
A Riemannian Block Coordinate Descent Method for Computing the Projection Robust Wasserstein Distance
  • DOI:
  • 发表时间:
    2020-12
  • 期刊:
  • 影响因子:
    0
  • 作者:
    Minhui Huang;Shiqian Ma;L. Lai
  • 通讯作者:
    Minhui Huang;Shiqian Ma;L. Lai
Distributed Approximate Newton's Method Robust to Byzantine Attackers
Optimal Feature Manipulation Attacks Against Linear Regression
  • DOI:
    10.1109/tsp.2021.3115951
  • 发表时间:
    2020-02
  • 期刊:
  • 影响因子:
    5.4
  • 作者:
    Fuwei Li;L. Lai;Shuguang Cui
  • 通讯作者:
    Fuwei Li;L. Lai;Shuguang Cui
On the Adversarial Robustness of Linear Regression
关于线性回归的对抗鲁棒性
Adversarially Robust Fairness-Aware Regression
对抗性鲁棒公平意识回归
  • DOI:
    10.1109/icassp49357.2023.10094637
  • 发表时间:
    2023
  • 期刊:
  • 影响因子:
    0
  • 作者:
    Jin, Yulu;Lai, Lifeng
  • 通讯作者:
    Lai, Lifeng
{{ item.title }}
{{ item.translation_title }}
  • DOI:
    {{ item.doi }}
  • 发表时间:
    {{ item.publish_year }}
  • 期刊:
  • 影响因子:
    {{ item.factor }}
  • 作者:
    {{ item.authors }}
  • 通讯作者:
    {{ item.author }}

数据更新时间:{{ journalArticles.updateTime }}

{{ item.title }}
  • 作者:
    {{ item.author }}

数据更新时间:{{ monograph.updateTime }}

{{ item.title }}
  • 作者:
    {{ item.author }}

数据更新时间:{{ sciAawards.updateTime }}

{{ item.title }}
  • 作者:
    {{ item.author }}

数据更新时间:{{ conferencePapers.updateTime }}

{{ item.title }}
  • 作者:
    {{ item.author }}

数据更新时间:{{ patent.updateTime }}

Lifeng Lai其他文献

Robust Risk-Sensitive Reinforcement Learning with Conditional Value-at-Risk
具有条件风险价值的鲁棒风险敏感强化学习
  • DOI:
  • 发表时间:
    2024
  • 期刊:
  • 影响因子:
    0
  • 作者:
    Xinyi Ni;Lifeng Lai
  • 通讯作者:
    Lifeng Lai
NEW USES FOR OLD SMARTPHONES
旧智能手机的新用途
  • DOI:
  • 发表时间:
    2015
  • 期刊:
  • 影响因子:
    0
  • 作者:
    Lifeng Lai;Michael Smith;Kewen Gu
  • 通讯作者:
    Kewen Gu
Minimax Optimal Q Learning with Nearest Neighbors
最近邻的 Minimax 最优 Q 学习
  • DOI:
    10.48550/arxiv.2308.01490
  • 发表时间:
    2023
  • 期刊:
  • 影响因子:
    0
  • 作者:
    Puning Zhao;Lifeng Lai
  • 通讯作者:
    Lifeng Lai
Key Generation using Ternary Tree based Group Key Generation for Data Encryption and Classification
使用基于三叉树的组密钥生成进行数据加密和分类的密钥生成
  • DOI:
    10.5120/ijca2017912883
  • 发表时间:
    2017
  • 期刊:
  • 影响因子:
    0
  • 作者:
    Nikita Gupta;Amit Saxena;Maithili Narasimha;Randy Katz;Alfin Abraham;Lifeng Lai
  • 通讯作者:
    Lifeng Lai
Ultra-reliable and low-latency communications: applications, opportunities and challenges
  • DOI:
    10.1007/s11432-020-2852-1
  • 发表时间:
    2021-01-20
  • 期刊:
  • 影响因子:
    7.600
  • 作者:
    Daquan Feng;Lifeng Lai;Jingjing Luo;Yi Zhong;Canjian Zheng;Kai Ying
  • 通讯作者:
    Kai Ying

Lifeng Lai的其他文献

{{ item.title }}
{{ item.translation_title }}
  • DOI:
    {{ item.doi }}
  • 发表时间:
    {{ item.publish_year }}
  • 期刊:
  • 影响因子:
    {{ item.factor }}
  • 作者:
    {{ item.authors }}
  • 通讯作者:
    {{ item.author }}

{{ truncateString('Lifeng Lai', 18)}}的其他基金

CIF: Small: Adversarially Robust Reinforcement Learning: Attack, Defense, and Analysis
CIF:小型:对抗性鲁棒强化学习:攻击、防御和分析
  • 批准号:
    2232907
  • 财政年份:
    2023
  • 资助金额:
    $ 50万
  • 项目类别:
    Standard Grant
CIF: SMALL: kNN methods for functional estimation and machine learning
CIF:SMALL:用于功能估计和机器学习的 kNN 方法
  • 批准号:
    2112504
  • 财政年份:
    2021
  • 资助金额:
    $ 50万
  • 项目类别:
    Standard Grant
CCSS: Collaborative Research: Sketching for High Dimensional Data Analysis in IoT
CCSS:协作研究:物联网高维数据分析草图
  • 批准号:
    2000415
  • 财政年份:
    2020
  • 资助金额:
    $ 50万
  • 项目类别:
    Standard Grant
CIF: Small: Distributed Statistical Inference with Compressed Data
CIF:小型:使用压缩数据进行分布式统计推断
  • 批准号:
    1717943
  • 财政年份:
    2017
  • 资助金额:
    $ 50万
  • 项目类别:
    Standard Grant
CCSS: Quickest Detection Under Energy Constraints
CCSS:能量限制下最快的检测
  • 批准号:
    1711468
  • 财政年份:
    2017
  • 资助金额:
    $ 50万
  • 项目类别:
    Standard Grant
CAREER: Building Secure Wireless Communication Systems via Physical Layer Resources
职业:通过物理层资源构建安全的无线通信系统
  • 批准号:
    1760889
  • 财政年份:
    2017
  • 资助金额:
    $ 50万
  • 项目类别:
    Continuing Grant
CIF: Small: Collaborative Research: Secret Key Generation Under Resource Constraints
CIF:小型:协作研究:资源限制下的密钥生成
  • 批准号:
    1665073
  • 财政年份:
    2016
  • 资助金额:
    $ 50万
  • 项目类别:
    Standard Grant
CCSS: Collaborative Research: Developing A Physical-Channel Based Lightweight Authentication System for Wireless Body Area Networks
CCSS:协作研究:为无线体域网开发基于物理通道的轻量级身份验证系统
  • 批准号:
    1660140
  • 财政年份:
    2016
  • 资助金额:
    $ 50万
  • 项目类别:
    Standard Grant
CIF: Small: Collaborative Research: Secret Key Generation Under Resource Constraints
CIF:小型:协作研究:资源限制下的密钥生成
  • 批准号:
    1618017
  • 财政年份:
    2016
  • 资助金额:
    $ 50万
  • 项目类别:
    Standard Grant
WiFiUS: Collaborative Research: Sequential Inference and Learning for Agile Spectrum Use
WiFiUS:协作研究:敏捷频谱使用的顺序推理和学习
  • 批准号:
    1660128
  • 财政年份:
    2016
  • 资助金额:
    $ 50万
  • 项目类别:
    Standard Grant

相似国自然基金

昼夜节律性small RNA在血斑形成时间推断中的法医学应用研究
  • 批准号:
  • 批准年份:
    2024
  • 资助金额:
    0.0 万元
  • 项目类别:
    省市级项目
tRNA-derived small RNA上调YBX1/CCL5通路参与硼替佐米诱导慢性疼痛的机制研究
  • 批准号:
    n/a
  • 批准年份:
    2022
  • 资助金额:
    10.0 万元
  • 项目类别:
    省市级项目
Small RNA调控I-F型CRISPR-Cas适应性免疫性的应答及分子机制
  • 批准号:
    32000033
  • 批准年份:
    2020
  • 资助金额:
    24.0 万元
  • 项目类别:
    青年科学基金项目
Small RNAs调控解淀粉芽胞杆菌FZB42生防功能的机制研究
  • 批准号:
    31972324
  • 批准年份:
    2019
  • 资助金额:
    58.0 万元
  • 项目类别:
    面上项目
变异链球菌small RNAs连接LuxS密度感应与生物膜形成的机制研究
  • 批准号:
    81900988
  • 批准年份:
    2019
  • 资助金额:
    21.0 万元
  • 项目类别:
    青年科学基金项目
基于small RNA 测序技术解析鸽分泌鸽乳的分子机制
  • 批准号:
    31802058
  • 批准年份:
    2018
  • 资助金额:
    26.0 万元
  • 项目类别:
    青年科学基金项目
肠道细菌关键small RNAs在克罗恩病发生发展中的功能和作用机制
  • 批准号:
    31870821
  • 批准年份:
    2018
  • 资助金额:
    56.0 万元
  • 项目类别:
    面上项目
Small RNA介导的DNA甲基化调控的水稻草矮病毒致病机制
  • 批准号:
    31772128
  • 批准年份:
    2017
  • 资助金额:
    60.0 万元
  • 项目类别:
    面上项目
基于small RNA-seq的针灸治疗桥本甲状腺炎的免疫调控机制研究
  • 批准号:
    81704176
  • 批准年份:
    2017
  • 资助金额:
    20.0 万元
  • 项目类别:
    青年科学基金项目
水稻OsSGS3与OsHEN1调控small RNAs合成及其对抗病性的调节
  • 批准号:
    91640114
  • 批准年份:
    2016
  • 资助金额:
    85.0 万元
  • 项目类别:
    重大研究计划

相似海外基金

CSR: Small: Leveraging Physical Side-Channels for Good
CSR:小:利用物理侧通道做好事
  • 批准号:
    2312089
  • 财政年份:
    2024
  • 资助金额:
    $ 50万
  • 项目类别:
    Standard Grant
NeTS: Small: NSF-DST: Modernizing Underground Mining Operations with Millimeter-Wave Imaging and Networking
NeTS:小型:NSF-DST:利用毫米波成像和网络实现地下采矿作业现代化
  • 批准号:
    2342833
  • 财政年份:
    2024
  • 资助金额:
    $ 50万
  • 项目类别:
    Standard Grant
CPS: Small: NSF-DST: Autonomous Operations of Multi-UAV Uncrewed Aerial Systems using Onboard Sensing to Monitor and Track Natural Disaster Events
CPS:小型:NSF-DST:使用机载传感监测和跟踪自然灾害事件的多无人机无人航空系统自主操作
  • 批准号:
    2343062
  • 财政年份:
    2024
  • 资助金额:
    $ 50万
  • 项目类别:
    Standard Grant
Collaborative Research: FET: Small: Reservoir Computing with Ion-Channel-Based Memristors
合作研究:FET:小型:基于离子通道忆阻器的储层计算
  • 批准号:
    2403559
  • 财政年份:
    2024
  • 资助金额:
    $ 50万
  • 项目类别:
    Standard Grant
オミックス解析を用いたブドウ球菌 small colony variants の包括的特徴づけ
使用组学分析全面表征葡萄球菌小菌落变体
  • 批准号:
    24K13443
  • 财政年份:
    2024
  • 资助金额:
    $ 50万
  • 项目类别:
    Grant-in-Aid for Scientific Research (C)
AF: Small: Problems in Algorithmic Game Theory for Online Markets
AF:小:在线市场的算法博弈论问题
  • 批准号:
    2332922
  • 财政年份:
    2024
  • 资助金额:
    $ 50万
  • 项目类别:
    Standard Grant
Collaborative Research: FET: Small: Algorithmic Self-Assembly with Crisscross Slats
合作研究:FET:小型:十字交叉板条的算法自组装
  • 批准号:
    2329908
  • 财政年份:
    2024
  • 资助金额:
    $ 50万
  • 项目类别:
    Standard Grant
NeTS: Small: ML-Driven Online Traffic Analysis at Multi-Terabit Line Rates
NeTS:小型:ML 驱动的多太比特线路速率在线流量分析
  • 批准号:
    2331111
  • 财政年份:
    2024
  • 资助金额:
    $ 50万
  • 项目类别:
    Standard Grant
Collaborative Research: SHF: Small: LEGAS: Learning Evolving Graphs At Scale
协作研究:SHF:小型:LEGAS:大规模学习演化图
  • 批准号:
    2331302
  • 财政年份:
    2024
  • 资助金额:
    $ 50万
  • 项目类别:
    Standard Grant
Collaborative Research: SHF: Small: LEGAS: Learning Evolving Graphs At Scale
协作研究:SHF:小型:LEGAS:大规模学习演化图
  • 批准号:
    2331301
  • 财政年份:
    2024
  • 资助金额:
    $ 50万
  • 项目类别:
    Standard Grant
{{ showInfoDetail.title }}

作者:{{ showInfoDetail.author }}

知道了