CIF: Small: Collaborative Research: Acceleration Algorithms for Large-scale Nonconvex Optimization
CIF:小型:协作研究:大规模非凸优化的加速算法
基本信息
- 批准号:1909298
- 负责人:
- 金额:$ 25万
- 依托单位:
- 依托单位国家:美国
- 项目类别:Standard Grant
- 财政年份:2019
- 资助国家:美国
- 起止时间:2019-10-01 至 2023-01-31
- 项目状态:已结题
- 来源:
- 关键词:
项目摘要
Non-convex optimization problems are ubiquitous in data science, machine learning and artificial intelligence. Non-convexity, together with the high dimension of the model parameters and the large volume of uncertain data, presents significant challenges for solving these problems. Although popular methods have been proposed to speed up optimization algorithms for solving practical large-scale problems, these algorithms do not necessarily converge for non-convex problems, and some of them do not even converge in the convex setting. The primary goal of this project is to develop principled approaches for designing acceleration algorithms with provable theoretical convergence guarantees and superior practical performance for large-scale non-convex optimization. The developed algorithms will be applicable to big data problems in various domains, including deep learning, computer vision, medical image processing, social network learning, etc. This project will design novel, fast, and scalable acceleration algorithms for solving a variety of large-scale non-convex problems including constrained, composite, and saddle point optimization problems. This will include the development of both novel direct acceleration methods inspired by Nesterov's approach, and of indirect acceleration methods via proximal point methods for different types of problems. The performance of these acceleration methods will be explored when combined with randomization methods in order to enhance their scalability with data dimension and volume. Comprehensive numerical validations will be conducted for application problems arising in large-scale data analysis. This project will contribute to a synthesis of optimization with data science, and will be incorporated into curriculum development, and in the training of students and future big data researchers and practitioners.This award reflects NSF's statutory mission and has been deemed worthy of support through evaluation using the Foundation's intellectual merit and broader impacts review criteria.
非凸优化问题在数据科学、机器学习和人工智能中无处不在。非凸性、模型参数的高维性和大量的不确定数据,为解决这些问题带来了巨大的挑战。虽然已经提出了流行的方法来加速优化算法来解决实际的大规模问题,这些算法不一定收敛于非凸问题,其中一些甚至不收敛于凸设置。这个项目的主要目标是开发设计加速算法的原则性方法,这些算法具有可证明的理论收敛保证和大规模非凸优化的上级实际性能。开发的算法将适用于各个领域的大数据问题,包括深度学习,计算机视觉,医学图像处理,社交网络学习等。该项目将设计新颖,快速,可扩展的加速算法,用于解决各种大规模非凸问题,包括约束,复合和鞍点优化问题。这将包括开发受Nesterov方法启发的新型直接加速方法,以及通过近点方法针对不同类型问题的间接加速方法。这些加速方法的性能将与随机化方法相结合,以提高其可扩展性与数据的维度和体积。对于大规模数据分析中出现的应用问题,将进行全面的数值验证。该项目将有助于优化与数据科学的综合,并将纳入课程开发,以及学生和未来大数据研究人员和从业者的培训。该奖项反映了NSF的法定使命,并通过使用基金会的知识价值和更广泛的影响审查标准进行评估,被认为值得支持。
项目成果
期刊论文数量(0)
专著数量(0)
科研奖励数量(0)
会议论文数量(0)
专利数量(0)
数据更新时间:{{ journalArticles.updateTime }}
{{
item.title }}
{{ item.translation_title }}
- DOI:
{{ item.doi }} - 发表时间:
{{ item.publish_year }} - 期刊:
- 影响因子:{{ item.factor }}
- 作者:
{{ item.authors }} - 通讯作者:
{{ item.author }}
数据更新时间:{{ journalArticles.updateTime }}
{{ item.title }}
- 作者:
{{ item.author }}
数据更新时间:{{ monograph.updateTime }}
{{ item.title }}
- 作者:
{{ item.author }}
数据更新时间:{{ sciAawards.updateTime }}
{{ item.title }}
- 作者:
{{ item.author }}
数据更新时间:{{ conferencePapers.updateTime }}
{{ item.title }}
- 作者:
{{ item.author }}
数据更新时间:{{ patent.updateTime }}
Guanghui Lan其他文献
A simple uniformly optimal method without line search for convex optimization
一种简单的无线搜索凸优化一致最优方法
- DOI:
10.48550/arxiv.2310.10082 - 发表时间:
2023 - 期刊:
- 影响因子:0
- 作者:
Tianjiao Li;Guanghui Lan - 通讯作者:
Guanghui Lan
Stochastic Approximation Methods and Their Finite-Time Convergence Properties
随机逼近方法及其有限时间收敛性质
- DOI:
10.1007/978-1-4939-1384-8_7 - 发表时间:
2015 - 期刊:
- 影响因子:0
- 作者:
Saeed Ghadimi;Guanghui Lan - 通讯作者:
Guanghui Lan
Policy Optimization over General State and Action Spaces
- DOI:
10.48550/arxiv.2211.16715 - 发表时间:
2022-11 - 期刊:
- 影响因子:0
- 作者:
Guanghui Lan - 通讯作者:
Guanghui Lan
Convex optimization under inexact first-order information
- DOI:
- 发表时间:
2009-06 - 期刊:
- 影响因子:0
- 作者:
Guanghui Lan - 通讯作者:
Guanghui Lan
Convex Optimization Theory
凸优化理论
- DOI:
10.1007/978-3-030-39568-1_2 - 发表时间:
2020 - 期刊:
- 影响因子:0
- 作者:
Guanghui Lan - 通讯作者:
Guanghui Lan
Guanghui Lan的其他文献
{{
item.title }}
{{ item.translation_title }}
- DOI:
{{ item.doi }} - 发表时间:
{{ item.publish_year }} - 期刊:
- 影响因子:{{ item.factor }}
- 作者:
{{ item.authors }} - 通讯作者:
{{ item.author }}
{{ truncateString('Guanghui Lan', 18)}}的其他基金
Collaborative Research: Algorithms for Optimal Adaptive Enrichment Design in Randomized Trial
协作研究:随机试验中最佳自适应富集设计的算法
- 批准号:
1953199 - 财政年份:2020
- 资助金额:
$ 25万 - 项目类别:
Standard Grant
CAREER: Reduced-order Methods for Big-Data Challenges in Nonlinear and Stochastic Optimization
职业:非线性和随机优化中大数据挑战的降阶方法
- 批准号:
1637473 - 财政年份:2016
- 资助金额:
$ 25万 - 项目类别:
Standard Grant
Gradient Sliding Schemes for Large-scale Optimization and Data Analysis
用于大规模优化和数据分析的梯度滑动方案
- 批准号:
1637474 - 财政年份:2016
- 资助金额:
$ 25万 - 项目类别:
Standard Grant
Gradient Sliding Schemes for Large-scale Optimization and Data Analysis
用于大规模优化和数据分析的梯度滑动方案
- 批准号:
1537414 - 财政年份:2015
- 资助金额:
$ 25万 - 项目类别:
Standard Grant
CAREER: Reduced-order Methods for Big-Data Challenges in Nonlinear and Stochastic Optimization
职业:非线性和随机优化中大数据挑战的降阶方法
- 批准号:
1254446 - 财政年份:2013
- 资助金额:
$ 25万 - 项目类别:
Standard Grant
Theory and Applications of Stochastic First-order Methods for Large-scale Stochastic Convex Optimization
大规模随机凸优化的随机一阶方法的理论与应用
- 批准号:
1000347 - 财政年份:2010
- 资助金额:
$ 25万 - 项目类别:
Standard Grant
相似国自然基金
昼夜节律性small RNA在血斑形成时间推断中的法医学应用研究
- 批准号:
- 批准年份:2024
- 资助金额:0.0 万元
- 项目类别:省市级项目
tRNA-derived small RNA上调YBX1/CCL5通路参与硼替佐米诱导慢性疼痛的机制研究
- 批准号:n/a
- 批准年份:2022
- 资助金额:10.0 万元
- 项目类别:省市级项目
Small RNA调控I-F型CRISPR-Cas适应性免疫性的应答及分子机制
- 批准号:32000033
- 批准年份:2020
- 资助金额:24.0 万元
- 项目类别:青年科学基金项目
Small RNAs调控解淀粉芽胞杆菌FZB42生防功能的机制研究
- 批准号:31972324
- 批准年份:2019
- 资助金额:58.0 万元
- 项目类别:面上项目
变异链球菌small RNAs连接LuxS密度感应与生物膜形成的机制研究
- 批准号:81900988
- 批准年份:2019
- 资助金额:21.0 万元
- 项目类别:青年科学基金项目
肠道细菌关键small RNAs在克罗恩病发生发展中的功能和作用机制
- 批准号:31870821
- 批准年份:2018
- 资助金额:56.0 万元
- 项目类别:面上项目
基于small RNA 测序技术解析鸽分泌鸽乳的分子机制
- 批准号:31802058
- 批准年份:2018
- 资助金额:26.0 万元
- 项目类别:青年科学基金项目
Small RNA介导的DNA甲基化调控的水稻草矮病毒致病机制
- 批准号:31772128
- 批准年份:2017
- 资助金额:60.0 万元
- 项目类别:面上项目
基于small RNA-seq的针灸治疗桥本甲状腺炎的免疫调控机制研究
- 批准号:81704176
- 批准年份:2017
- 资助金额:20.0 万元
- 项目类别:青年科学基金项目
水稻OsSGS3与OsHEN1调控small RNAs合成及其对抗病性的调节
- 批准号:91640114
- 批准年份:2016
- 资助金额:85.0 万元
- 项目类别:重大研究计划
相似海外基金
Collaborative Research: CIF: Small: Mathematical and Algorithmic Foundations of Multi-Task Learning
协作研究:CIF:小型:多任务学习的数学和算法基础
- 批准号:
2343599 - 财政年份:2024
- 资助金额:
$ 25万 - 项目类别:
Standard Grant
Collaborative Research: CIF: Small: Mathematical and Algorithmic Foundations of Multi-Task Learning
协作研究:CIF:小型:多任务学习的数学和算法基础
- 批准号:
2343600 - 财政年份:2024
- 资助金额:
$ 25万 - 项目类别:
Standard Grant
Collaborative Research: NSF-AoF: CIF: Small: AI-assisted Waveform and Beamforming Design for Integrated Sensing and Communication
合作研究:NSF-AoF:CIF:小型:用于集成传感和通信的人工智能辅助波形和波束成形设计
- 批准号:
2326622 - 财政年份:2024
- 资助金额:
$ 25万 - 项目类别:
Standard Grant
Collaborative Research: NSF-AoF: CIF: Small: AI-assisted Waveform and Beamforming Design for Integrated Sensing and Communication
合作研究:NSF-AoF:CIF:小型:用于集成传感和通信的人工智能辅助波形和波束成形设计
- 批准号:
2326621 - 财政年份:2024
- 资助金额:
$ 25万 - 项目类别:
Standard Grant
Collaborative Research: CIF: Small: Versatile Data Synchronization: Novel Codes and Algorithms for Practical Applications
合作研究:CIF:小型:多功能数据同步:实际应用的新颖代码和算法
- 批准号:
2312872 - 财政年份:2023
- 资助金额:
$ 25万 - 项目类别:
Standard Grant
Collaborative Research: CIF: Small: Maximizing Coding Gain in Coded Computing
协作研究:CIF:小型:最大化编码计算中的编码增益
- 批准号:
2327509 - 财政年份:2023
- 资助金额:
$ 25万 - 项目类别:
Standard Grant
Collaborative Research: CIF: Small: Designing Plotkin Transform Codes via Machine Learning
协作研究:CIF:小型:通过机器学习设计 Plotkin 转换代码
- 批准号:
2312753 - 财政年份:2023
- 资助金额:
$ 25万 - 项目类别:
Standard Grant
Collaborative Research: CIF: Small: Theory for Learning Lossless and Lossy Coding
协作研究:CIF:小型:学习无损和有损编码的理论
- 批准号:
2324396 - 财政年份:2023
- 资助金额:
$ 25万 - 项目类别:
Standard Grant
Collaborative Research: CIF: Small: Hypergraph Signal Processing and Networks via t-Product Decompositions
合作研究:CIF:小型:通过 t 产品分解的超图信号处理和网络
- 批准号:
2230161 - 财政年份:2023
- 资助金额:
$ 25万 - 项目类别:
Standard Grant
Collaborative Research: CIF: Small: New Theory, Algorithms and Applications for Large-Scale Bilevel Optimization
合作研究:CIF:小型:大规模双层优化的新理论、算法和应用
- 批准号:
2311274 - 财政年份:2023
- 资助金额:
$ 25万 - 项目类别:
Standard Grant