CIF: RI: Medium: Design principles and theory for data augmentation
CIF: RI: Medium: Design principles and theory for data augmentation
批准号:
2212182
负责人:
Vidya Muthukumar
金额:
$120.0万
依托单位国家:
美国
项目类别:
Standard Grant
财政年份:
2022
资助国家:
美国
项目状态:
未结题
起止时间:
2022-10-01 至 2025-09-30
中文摘要
泛化能力,或者说将知识从一个环境转移到另一个环境的能力,是人类智能的标志。然而,在人工智能(AI)中,在一个环境中训练的模型在新的环境中测试时往往会失败,即使这种变化很小或难以察觉。为了构建更通用的AI,大多数现代方法都采用某种形式的数据增强(DA),它对数据进行转换以创建虚拟样本,然后将其添加到数据集中。由此产生的新示例的合成似乎在AI中建立了有用的属性,例如对某些自然变换的不变性或抵抗性,以及对新任务和现有任务中的噪声的鲁棒性。尽管DA程序的承诺和性能,他们大多是在一个特设的方式应用,需要设计和测试的数据集的数据集的基础上。缺乏一套基本的原则和理论来理解DA及其对模型训练和测试的影响。为了解决这一突出的挑战,研究人员将提供DA对泛化的影响的精确理解,并利用这种理解来设计可用于多个应用和领域的新颖增强。在这个项目中,研究人员提出了一个原则性的数学框架,以1)了解DA何时有助于学习,何时可能损害学习,2)理解DA诱导的结构,并描述高质量增强的特征; 3)为在缺乏先验知识指导的新领域中增强数据提供新颖、系统和可扩展的设计原则。这些设计原则将大大拓宽DA的适用性和前景,从计算机视觉到新的领域(例如,神经数据、图形和表格数据),其中原理性增强仍然是未知的。在这个项目中,特别关注的是DA在神经活动中的应用,其中增强已经显示出在大脑和行为之间建立更普遍联系的希望。这项研究还将为DA在促进现代机器学习的公平性、问责制和透明度方面的作用提供处方。该奖项反映了NSF的法定使命,并通过使用基金会的知识价值和更广泛的影响审查标准进行评估,被认为值得支持。
英文摘要
Generalization, or the ability to transfer knowledge from one context to the next, is a hallmark of human intelligence. In artificial intelligence (AI), however, models trained in one setting often fail when tested in a new setting, even if the shift is minor or imperceptible. To build more generalizable AI, most modern methods employ some form of data augmentation (DA), which applies transformations to the data to create virtual samples that are then added to the dataset. The resulting synthesis of new examples appears to build helpful properties in AI such as invariance or resistance to change to certain natural transformations, and robustness to new tasks as well as noise in existing tasks. Despite the promise and performance of DA procedures, they are mostly applied in an ad-hoc manner and need to be designed and tested on a dataset by dataset basis. A set of fundamental principles and theory to understand DA and its impact on model training and testing is lacking. To address this outstanding challenge, the investigators will provide a precise understanding of the impact of DA on generalization, and leverage this understanding to design novel augmentations that can be used across multiple applications and domains.In this project, the investigators propose a principled mathematical framework to 1) understand when DA helps and when DA could potentially hurt learning, 2) understand the structure induced by DA and characterize what makes high-quality augmentations, and 3) provide novel, systematic, and scalable design principles for augmenting data in new domains where we lack prior knowledge to guide us. These design principles will significantly broaden the applicability and promise of DA from computer vision to new domains (e.g., neural data, graphs and tabular data) where principled augmentations are still not known. Of special focus in this project will be applications of DA to neural activity, where augmentations have shown promise in building a more generalizable link between the brain and behavior. This research will also yield prescriptions for the role of DA in advancing fairness, accountability and transparency in modern machine learning.This award reflects NSF's statutory mission and has been deemed worthy of support through evaluation using the Foundation's intellectual merit and broader impacts review criteria.
期刊论文(5)
专著(0)
科研奖励(0)
会议论文
登录
查看更多内容
DOI:
10.48550/arxiv.2210.09385
发表时间:
2022-10
期刊:
ArXiv
影响因子:
--
作者:
[Guanghui Wang;Zihao Hu;Vidya Muthukumar;Jacob D. Abernethy]
通讯作者:
Guanghui Wang;Zihao Hu;Vidya Muthukumar;Jacob D. Abernethy
DOI:
10.48550/arxiv.2308.09198
发表时间:
2023-07
期刊:
Proceedings of machine learning research
影响因子:
--
作者:
[Mehdi Azabou;Venkataraman Ganesh;S. Thakoor;Chi-Heng Lin;Lakshmi Sathidevi;Ran Liu;M. Vaĺko;]
通讯作者:
Mehdi Azabou;Venkataraman Ganesh;S. Thakoor;Chi-Heng Lin;Lakshmi Sathidevi;Ran Liu;M. Vaĺko;
The Complexity of Infinite-Horizon General-Sum Stochastic Games
无限视野广义和随机博弈的复杂性
DOI:
--
发表时间:
2023
期刊:
14th Innovations in Theoretical Computer Science Conference (ITCS 2023
影响因子:
--
作者:
[Jin, Yujia, Muthukumar, Vidya, Sidford, Aaron]
通讯作者:
Sidford, Aaron
DOI:
--
发表时间:
2022-02
期刊:
影响因子:
--
作者:
[Namrata Nadagouda;Austin Xu;M. Davenport]
通讯作者:
Namrata Nadagouda;Austin Xu;M. Davenport
How much Data is Augmentation Worth?
增强数据有多少价值?
DOI:
--
发表时间:
2022
期刊:
Invariance and Stability
影响因子:
--
作者:
[Geiping, Jonas, Goldblum, Micah, Somepalli, Gowthami, Shwartz-Ziv, Goldstein, Tom, Gordon-Wilson, Andrew]
通讯作者:
Gordon-Wilson, Andrew
CAREER: Overparameterization in modern machine learning: A panacea or a pitfall?
-
批准号:2239151
-
项目类别:Continuing Grant
-
资助金额:$58.46万
-
财政年份:2023
-
负责人:Vidya Muthukumar
-
依托单位:
国内基金
海外基金
登录
查看更多内容
破骨细胞源性FcγRI介导类风湿性关节炎炎症后疼痛的作用机制
-
批准号:
-
项目类别:省市级项目
-
资助金额:--
-
批准年份:2026
-
负责人:阳林
-
依托单位:
四神丸调控生物钟基因Bmal1/Fc εRI介导肥大细胞节律性活化治疗IBS-D“晨起痛”的作用机制研究
-
批准号:
-
项目类别:省市级项目
-
资助金额:--
-
批准年份:2026
-
负责人:何心凌
-
依托单位:
中药牛耳枫中抗MI/RI新颖虎皮楠生物碱的发现与作用机制研究
-
批准号:2026JJ60255
-
项目类别:省市级项目
-
资助金额:--
-
批准年份:2026
-
负责人:张济辉
-
依托单位:
NSUN6介导的m5C修饰调控心肌细胞凋亡和铁死亡参与MI/RI的机制研究
-
批准号:2026JJ80739
-
项目类别:省市级项目
-
资助金额:--
-
批准年份:2026
-
负责人:袁乐宏
-
依托单位:
Sirt7-PICK1经自噬途径调控TβRI信号轴影响角膜损伤修复的分子机制
-
批准号:82560202
-
项目类别:地区科学基金项目
-
资助金额:32.00万元
-
批准年份:2025
-
负责人:蓝倩倩
-
依托单位:
醒脑静多靶点调控PI3K/Akt通路抑制CI/RI氧化应激—基于网络药理学及体内、外实验研究
-
批准号:2025JJ90117
-
项目类别:省市级项目
-
资助金额:--
-
批准年份:2025
-
负责人:李秋云
-
依托单位:
清热解毒方调控IgG-FcγRI-NADPH通路治疗肉芽肿性乳腺炎的机制研究
-
批准号:82575052
-
项目类别:面上项目
-
资助金额:48.00万元
-
批准年份:2025
-
负责人:张董晓
-
依托单位:
艾灸调控IgE/FcεRI复合体缓解IBS-D大鼠抗原回避行为的机制
-
批准号:82575214
-
项目类别:面上项目
-
资助金额:50.00万元
-
批准年份:2025
-
负责人:储浩然
-
依托单位:
IgA-FcαRI介导的Syk/NLRP3/caspase-1通路在线状IgA大疱性皮病
中的机制研究
-
批准号:
-
项目类别:省市级项目
-
资助金额:--
-
批准年份:2024
-
负责人:荆可
-
依托单位:
基于双修饰ANG-RNH1系统阻抑RI复合物生成机制建立口腔黏膜等效物血管化稳态
-
批准号:82401112
-
项目类别:青年科学基金项目
-
资助金额:30.00万元
-
批准年份:2024
-
负责人:刘旭倩
-
依托单位: