CAREER: Theoretical Foundations for Probabilistic Models with Dense Random Matrices
职业:密集随机矩阵概率模型的理论基础
基本信息
- 批准号:1750362
- 负责人:
- 金额:$ 48.98万
- 依托单位:
- 依托单位国家:美国
- 项目类别:Continuing Grant
- 财政年份:2018
- 资助国家:美国
- 起止时间:2018-03-01 至 2025-02-28
- 项目状态:未结题
- 来源:
- 关键词:
项目摘要
Many real-world scientific and engineering applications require sophisticated processing of large and complex data sets. Examples include wireless communications, computational photography, and the training of multilayer networks for classification tasks. In some cases, performance is fundamentally limited by the amount of data. In other cases, the main limitation is the computational complexity of processing algorithms. A major challenge for researchers is to understand these fundamental limits. This project explores these limits by studying probabilistic models that describe the statistical relationship between the data and the unknown quantities of interest (e.g., transmitted message or correct label). The research involves combining ideas from information theory and statistical physics to compute fundamental limits and using these results to design efficient methods with improved performance. The interdisciplinary nature of the research is mirrored in the education activities of this project, which focuses on making connections between engineering, statistical physics, and the information sciences, as well as improving undergraduate education through exploratory data analysis.The key conceptual idea behind this research is that statistical dependencies induced through multiplication by dense random matrices can be understood through connections with simpler models involving additive Gaussian noise. In a recent breakthrough, the investigator showed how ideas from information theory could provide rigorous proofs for behaviors that had been conjectured using the heuristic replica method from statistical physics. Building upon this insight, the research is organized around three thrusts: i) Developing new theoretical methods to provide rigorous and interpretable characterization of fundamental limits; ii) Designing new algorithms for inference, learning, and compression; and iii) Analyzing bi-linear and multi-layer inference problems with applications to deep learning.This award reflects NSF's statutory mission and has been deemed worthy of support through evaluation using the Foundation's intellectual merit and broader impacts review criteria.
许多现实世界的科学和工程应用需要对大型复杂数据集进行复杂的处理。例子包括无线通信,计算摄影,和训练多层网络的分类任务。在某些情况下,性能从根本上受到数据量的限制。在其他情况下,主要的限制是处理算法的计算复杂性。研究人员面临的一个主要挑战是理解这些基本限制。该项目通过研究描述数据与感兴趣的未知量之间的统计关系的概率模型(例如,发送的消息或正确的标签)。该研究涉及结合信息论和统计物理的思想来计算基本极限,并使用这些结果来设计具有改进性能的有效方法。该研究的跨学科性质反映在该项目的教育活动中,该项目的重点是将工程,统计物理学和信息科学联系起来,这项研究背后的关键概念是,通过与简单模型的联系,可以理解通过密集随机矩阵相乘引起的统计依赖性涉及加性高斯噪声。在最近的一项突破中,研究人员展示了信息论的思想如何为使用统计物理学的启发式复制方法所验证的行为提供严格的证明。基于这一认识,研究围绕三个重点组织:i)开发新的理论方法,以提供基本极限的严格和可解释的表征; ii)设计新的推理,学习和压缩算法;(三)分析双线性和多线性该奖项反映了NSF的法定使命,并被认为是值得支持的,使用基金会的知识价值和更广泛的影响审查标准进行评估。
项目成果
期刊论文数量(11)
专著数量(0)
科研奖励数量(0)
会议论文数量(0)
专利数量(0)
Mutual Information in Community Detection with Covariate Information and Correlated Networks
- DOI:10.1109/allerton.2019.8919733
- 发表时间:2019-09
- 期刊:
- 影响因子:0
- 作者:Vaishakhi Mayya;G. Reeves
- 通讯作者:Vaishakhi Mayya;G. Reeves
Single Letter Formulas for Quantized Compressed Sensing with Gaussian Codebooks
高斯码本量化压缩感知的单字母公式
- DOI:10.1109/isit.2018.8437761
- 发表时间:2018
- 期刊:
- 影响因子:0
- 作者:Kipnis, Alon;Reeves, Galen;Eldar, Yonina C.
- 通讯作者:Eldar, Yonina C.
Fundamental limits for rank-one matrix estimation with groupwise heteroskedasticity
- DOI:
- 发表时间:2021-06
- 期刊:
- 影响因子:0
- 作者:Joshua K. Behne;G. Reeves
- 通讯作者:Joshua K. Behne;G. Reeves
Convergence of Gaussian-smoothed optimal transport distance with sub-gamma distributions and dependent samples
- DOI:
- 发表时间:2021-02
- 期刊:
- 影响因子:0
- 作者:Yixing Zhang;Xiuyuan Cheng;G. Reeves
- 通讯作者:Yixing Zhang;Xiuyuan Cheng;G. Reeves
The Geometry of Community Detection via the MMSE Matrix
- DOI:10.1109/isit.2019.8849594
- 发表时间:2019-07
- 期刊:
- 影响因子:0
- 作者:G. Reeves;Vaishakhi Mayya;A. Volfovsky
- 通讯作者:G. Reeves;Vaishakhi Mayya;A. Volfovsky
{{
item.title }}
{{ item.translation_title }}
- DOI:
{{ item.doi }} - 发表时间:
{{ item.publish_year }} - 期刊:
- 影响因子:{{ item.factor }}
- 作者:
{{ item.authors }} - 通讯作者:
{{ item.author }}
数据更新时间:{{ journalArticles.updateTime }}
{{ item.title }}
- 作者:
{{ item.author }}
数据更新时间:{{ monograph.updateTime }}
{{ item.title }}
- 作者:
{{ item.author }}
数据更新时间:{{ sciAawards.updateTime }}
{{ item.title }}
- 作者:
{{ item.author }}
数据更新时间:{{ conferencePapers.updateTime }}
{{ item.title }}
- 作者:
{{ item.author }}
数据更新时间:{{ patent.updateTime }}
Galen Reeves其他文献
Linear Operator Approximate Message Passing (OpAMP)
线性算子近似消息传递 (OpAMP)
- DOI:
- 发表时间:
2024 - 期刊:
- 影响因子:0
- 作者:
Riccardo Rossetti;B. Nazer;Galen Reeves - 通讯作者:
Galen Reeves
Galen Reeves的其他文献
{{
item.title }}
{{ item.translation_title }}
- DOI:
{{ item.doi }} - 发表时间:
{{ item.publish_year }} - 期刊:
- 影响因子:{{ item.factor }}
- 作者:
{{ item.authors }} - 通讯作者:
{{ item.author }}
相似国自然基金
匹配名贵中药光受体的荧光材料基础理论和应用研究
- 批准号:
- 批准年份:2025
- 资助金额:0.0 万元
- 项目类别:省市级项目
半间歇反应本质安全智能设计的关键技术理论基础研究
- 批准号:
- 批准年份:2025
- 资助金额:0.0 万元
- 项目类别:省市级项目
高频静电驱动的软体气泵基础理论及关键技术研究
- 批准号:
- 批准年份:2025
- 资助金额:0.0 万元
- 项目类别:省市级项目
高容错双边永磁型双定子磁场调制电机新型拓扑与基础理论研究
- 批准号:QN25E070014
- 批准年份:2025
- 资助金额:0.0 万元
- 项目类别:省市级项目
基于剖面运动机器人的海洋温差能俘获利用的基础理论与技术研究
- 批准号:Z25E090007
- 批准年份:2025
- 资助金额:0.0 万元
- 项目类别:省市级项目
基于“肝病宜疏通大肠”理论探讨不同寄主桦褐孔菌改善非酒精性脂肪肝炎的物质基础差异性及药效作用机制
- 批准号:JCZRLH202500291
- 批准年份:2025
- 资助金额:0.0 万元
- 项目类别:省市级项目
超纯矿物材料制备基础理论与关键技术研究
- 批准号:2025JJ20051
- 批准年份:2025
- 资助金额:0.0 万元
- 项目类别:省市级项目
基于分数阶理论的气磁混合电主轴建模
与控制基础研究
- 批准号:
- 批准年份:2025
- 资助金额:10.0 万元
- 项目类别:省市级项目
基于“治未病”思想探讨黄芪建中汤治疗慢性疲劳综合征的理论基础与机制研究
- 批准号:JCZRLH202500115
- 批准年份:2025
- 资助金额:0.0 万元
- 项目类别:省市级项目
枯竭油气藏储氢关键基础理论研究
- 批准号:JCZRJQ202500118
- 批准年份:2025
- 资助金额:0.0 万元
- 项目类别:省市级项目
相似海外基金
CAREER: Theoretical foundations for deep learning and large-scale AI models
职业:深度学习和大规模人工智能模型的理论基础
- 批准号:
2339904 - 财政年份:2024
- 资助金额:
$ 48.98万 - 项目类别:
Continuing Grant
CAREER: Theoretical Foundations for Learning Network Dynamics
职业:学习网络动力学的理论基础
- 批准号:
2338855 - 财政年份:2024
- 资助金额:
$ 48.98万 - 项目类别:
Continuing Grant
CAREER: Strengthening the Theoretical Foundations of Federated Learning: Utilizing Underlying Data Statistics in Mitigating Heterogeneity and Client Faults
职业:加强联邦学习的理论基础:利用底层数据统计来减轻异构性和客户端故障
- 批准号:
2340482 - 财政年份:2024
- 资助金额:
$ 48.98万 - 项目类别:
Continuing Grant
CAREER: Computer-Intensive Statistical Inference on High-Dimensional and Massive Data: From Theoretical Foundations to Practical Computations
职业:高维海量数据的计算机密集统计推断:从理论基础到实际计算
- 批准号:
2347760 - 财政年份:2023
- 资助金额:
$ 48.98万 - 项目类别:
Continuing Grant
CAREER: Theoretical Foundations of Modern Machine Learning Paradigms: Generative and Out-of-Distribution
职业:现代机器学习范式的理论基础:生成式和非分布式
- 批准号:
2238523 - 财政年份:2023
- 资助金额:
$ 48.98万 - 项目类别:
Continuing Grant
CAREER: Theoretical Foundations of Offline Reinforcement Learning
职业:离线强化学习的理论基础
- 批准号:
2141781 - 财政年份:2022
- 资助金额:
$ 48.98万 - 项目类别:
Continuing Grant
CAREER: Towards theoretical foundations of neural network based representation learning
职业:迈向基于神经网络的表示学习的理论基础
- 批准号:
2145703 - 财政年份:2022
- 资助金额:
$ 48.98万 - 项目类别:
Continuing Grant
CAREER: Computer-Intensive Statistical Inference on High-Dimensional and Massive Data: From Theoretical Foundations to Practical Computations
职业:高维海量数据的计算机密集统计推断:从理论基础到实际计算
- 批准号:
1752614 - 财政年份:2018
- 资助金额:
$ 48.98万 - 项目类别:
Continuing Grant
CAREER: Theoretical foundations of neural networks - representation, optimization, and generalization
职业:神经网络的理论基础——表示、优化和泛化
- 批准号:
1750051 - 财政年份:2018
- 资助金额:
$ 48.98万 - 项目类别:
Continuing Grant
CAREER: Technical & Theoretical Foundations for Photoacoustic-Guided Surgery
职业:技术
- 批准号:
1751522 - 财政年份:2018
- 资助金额:
$ 48.98万 - 项目类别:
Standard Grant