Optimization of Markov Chain Monte Carlo Schemes with Spectral Gap Estimation

具有谱间隙估计的马尔可夫链蒙特卡罗方案优化

基本信息

  • 批准号:
    2311307
  • 负责人:
  • 金额:
    $ 15万
  • 依托单位:
  • 依托单位国家:
    美国
  • 项目类别:
    Continuing Grant
  • 财政年份:
    2023
  • 资助国家:
    美国
  • 起止时间:
    2023-09-01 至 2026-08-31
  • 项目状态:
    未结题

项目摘要

The enormous scale and increasing complexity of modern data make it computationally prohibitive to find exact solutions to many mathematical models used in data sciences. Sampling methods have emerged as an efficient alternative approach to this issue and are widely used in various scientific fields, including biology, physics, finance, geoscience, and artificial intelligence. By generating a large number of random solutions and simulating different scenarios, sampling can reveal hidden patterns and relationships that may not be apparent from the data itself in a computationally efficient manner. However, for different data sets and scientific problems, the efficacy of a given sampling algorithm can vary significantly. One major goal of this project is to develop general methods for assessing sampling difficulty during the algorithm execution, which can be further used to adaptively tune the behavior of existing sampling algorithms to achieve optimal performance. For example, consider the problem of selecting genes associated with some complex disease using a modern genomic data set consisting of millions of genes. The research team aims to develop sampling algorithms that can quickly identify which genes are highly likely or unlikely to be associated with the disease and then allocate most computational resources to analyzing a small number of genes that may interact with each other and show intermediate evidence of association. This project will train students on both theoretical and interdisciplinary research and enable the investigator to develop and revamp courses related to sampling methodology. The Markov chain convergence theory provides both theoretical guarantees and practical guidance on the use of Markov chain Monte Carlo (MCMC) sampling, the main driving force behind Bayesian computation, and the past decade has witnessed a rapid development in the complexity analysis of MCMC methods for high-dimensional statistical models. However, estimation of the MCMC convergence rate from a single trajectory has received much less attention. The few existing methods are computationally expensive, making it difficult for practitioners to optimize the efficiency of MCMC schemes. This project aims to fill these gaps by developing novel theory and methodology for measuring, estimating and optimizing the convergence rates of various MCMC schemes, including classical Metropolis-Hastings algorithms and recently proposed importance tempering schemes. New sampling algorithms will be developed aiming to overcome challenging multimodal target distributions that arise in statistics and other scientific fields. Additionally, a stochastic control approach will be explored to gain further theoretical insights into the optimal design of tempered MCMC schemes.This award reflects NSF's statutory mission and has been deemed worthy of support through evaluation using the Foundation's intellectual merit and broader impacts review criteria.
现代数据的巨大规模和日益增加的复杂性使得在计算上难以找到数据科学中使用的许多数学模型的精确解。抽样方法已经成为解决这一问题的一种有效的替代方法,并广泛应用于各种科学领域,包括生物学、物理学、金融、地球科学和人工智能。通过生成大量随机解决方案并模拟不同的场景,抽样可以以计算效率高的方式揭示数据本身可能不明显的隐藏模式和关系。然而,对于不同的数据集和科学问题,给定采样算法的有效性可能会有很大差异。该项目的一个主要目标是开发在算法执行过程中评估采样难度的通用方法,该方法可进一步用于自适应调整现有采样算法的行为,以达到最佳性能。例如,考虑使用由数百万个基因组成的现代基因组数据集选择与某些复杂疾病相关的基因的问题。研究小组的目标是开发采样算法,能够快速识别哪些基因极有可能或不太可能与疾病相关,然后分配大部分计算资源来分析可能相互作用并显示关联中间证据的少数基因。该项目将对学生进行理论和跨学科研究方面的培训,并使研究者能够开发和改进与抽样方法有关的课程。马尔可夫链收敛理论为使用马尔可夫链蒙特卡罗(MCMC)采样提供了理论保证和实践指导,MCMC采样是贝叶斯计算的主要推动力,近十年来,高维统计模型的MCMC方法的复杂性分析得到了迅速发展。然而,从单一轨迹估计MCMC的收敛速度却很少受到关注。现有的几种方法计算成本高,使得从业者难以优化MCMC方案的效率。该项目旨在通过开发新的理论和方法来测量、估计和优化各种MCMC方案的收敛速度,包括经典的Metropolis-Hastings算法和最近提出的重要性调节方案,从而填补这些空白。将开发新的采样算法,以克服统计学和其他科学领域中出现的具有挑战性的多模态目标分布。此外,本文还将探讨随机控制方法,以进一步从理论上了解缓和MCMC方案的优化设计。该奖项反映了美国国家科学基金会的法定使命,并通过使用基金会的知识价值和更广泛的影响审查标准进行评估,被认为值得支持。

项目成果

期刊论文数量(0)
专著数量(0)
科研奖励数量(0)
会议论文数量(0)
专利数量(0)

数据更新时间:{{ journalArticles.updateTime }}

{{ item.title }}
{{ item.translation_title }}
  • DOI:
    {{ item.doi }}
  • 发表时间:
    {{ item.publish_year }}
  • 期刊:
  • 影响因子:
    {{ item.factor }}
  • 作者:
    {{ item.authors }}
  • 通讯作者:
    {{ item.author }}

数据更新时间:{{ journalArticles.updateTime }}

{{ item.title }}
  • 作者:
    {{ item.author }}

数据更新时间:{{ monograph.updateTime }}

{{ item.title }}
  • 作者:
    {{ item.author }}

数据更新时间:{{ sciAawards.updateTime }}

{{ item.title }}
  • 作者:
    {{ item.author }}

数据更新时间:{{ conferencePapers.updateTime }}

{{ item.title }}
  • 作者:
    {{ item.author }}

数据更新时间:{{ patent.updateTime }}

Quan Zhou其他文献

Effects of topography on tree community structure in a deciduous broad-leaved forest in north-central China
地形对中北部落叶阔叶林乔木群落结构的影响
  • DOI:
    10.3390/f10010053
  • 发表时间:
    2019
  • 期刊:
  • 影响因子:
    2.9
  • 作者:
    Hang Shi;Fenglin Xie;Quan Zhou;Xiao Shu;Kerong Zhang;Chaoqi Dang;Shuiyuan Feng;Quanfa Zhang;Haishan Dang
  • 通讯作者:
    Haishan Dang
Excluding Parallel Execution to Improve Global Fixed Priority Response Time Analysis
排除并行执行以改进全局固定优先级响应时间分析
Resolving complex fibre architecture by means of sparse spherical deconvolution in the presence of isotropic diffusion
在各向同性扩散的情况下通过稀疏球形反卷积解析复杂的光纤结构
  • DOI:
  • 发表时间:
    2014
  • 期刊:
  • 影响因子:
    0
  • 作者:
    Quan Zhou;O. Michailovich;Y. Rathi
  • 通讯作者:
    Y. Rathi
Robust discriminative nonnegative dictionary learning for occluded face recognition
用于遮挡人脸识别的鲁棒判别式非负字典学习
  • DOI:
    10.1016/j.patrec.2017.07.006
  • 发表时间:
    2017-07
  • 期刊:
  • 影响因子:
    5.1
  • 作者:
    Weihua Ou;Xiao Luan;Jianping Gou;Quan Zhou;Wenjun Xiao;Xiangguang Xiong;Wu Zeng
  • 通讯作者:
    Wu Zeng
Komadu: A Capture and Visualization System for Scientific Data Provenance
Komadu:科学数据来源的捕获和可视化系统
  • DOI:
    10.5334/jors.bq
  • 发表时间:
    2015
  • 期刊:
  • 影响因子:
    0
  • 作者:
    Isuru Suriarachchi;Quan Zhou;Beth Plale
  • 通讯作者:
    Beth Plale

Quan Zhou的其他文献

{{ item.title }}
{{ item.translation_title }}
  • DOI:
    {{ item.doi }}
  • 发表时间:
    {{ item.publish_year }}
  • 期刊:
  • 影响因子:
    {{ item.factor }}
  • 作者:
    {{ item.authors }}
  • 通讯作者:
    {{ item.author }}

{{ truncateString('Quan Zhou', 18)}}的其他基金

Next-generation Tempering Methods for Multimodal Sampling: Theory and Applications
下一代多模态采样回火方法:理论与应用
  • 批准号:
    2245591
  • 财政年份:
    2023
  • 资助金额:
    $ 15万
  • 项目类别:
    Continuing Grant

相似国自然基金

多源网络攻击下Markov跳变信息物理系 统的安全性分析与控制
  • 批准号:
  • 批准年份:
    2025
  • 资助金额:
    10.0 万元
  • 项目类别:
    省市级项目
基于非周期间歇控制的Markov切换随机时滞系统的镇定及其应用研究
  • 批准号:
    QN25A010026
  • 批准年份:
    2025
  • 资助金额:
    0.0 万元
  • 项目类别:
    省市级项目
DoS攻击下Semi-Markov跳变拓扑结构网络化协同运动系统预测控制研究
  • 批准号:
  • 批准年份:
    2024
  • 资助金额:
    15.0 万元
  • 项目类别:
    省市级项目
基于真实世界数据探讨针刺对脑卒中后肩痛患者康复结局的影响及成本-效用Markov分析
  • 批准号:
    2024Y9524
  • 批准年份:
    2024
  • 资助金额:
    15.0 万元
  • 项目类别:
    省市级项目
基于 Hidden-Markov 理论的孤岛微电网负荷 频率鲁棒控制研究
  • 批准号:
    Q24F030019
  • 批准年份:
    2024
  • 资助金额:
    0.0 万元
  • 项目类别:
    省市级项目
模型未知下Markov跳变系统事件触发滑模控制研究
  • 批准号:
    62373002
  • 批准年份:
    2023
  • 资助金额:
    50.00 万元
  • 项目类别:
    面上项目
隐semi-Markov过程驱动的双时间尺度时滞系统有限时间控制
  • 批准号:
    62303016
  • 批准年份:
    2023
  • 资助金额:
    30 万元
  • 项目类别:
    青年科学基金项目
基于异步Markov切换的网络化区间状态估计及其控制
  • 批准号:
    62373220
  • 批准年份:
    2023
  • 资助金额:
    50 万元
  • 项目类别:
    面上项目
带有Markov链和随机脉冲的离散时间随机时滞系统的稳定性、控制及应用研究
  • 批准号:
    12302034
  • 批准年份:
    2023
  • 资助金额:
    30.00 万元
  • 项目类别:
    青年科学基金项目

相似海外基金

EAGER: Search-Accelerated Markov Chain Monte Carlo Algorithms for Bayesian Neural Networks and Trillion-Dimensional Problems
EAGER:贝叶斯神经网络和万亿维问题的搜索加速马尔可夫链蒙特卡罗算法
  • 批准号:
    2404989
  • 财政年份:
    2024
  • 资助金额:
    $ 15万
  • 项目类别:
    Standard Grant
CAREER: Scalable and Robust Uncertainty Quantification using Subsampling Markov Chain Monte Carlo Algorithms
职业:使用子采样马尔可夫链蒙特卡罗算法进行可扩展且稳健的不确定性量化
  • 批准号:
    2340586
  • 财政年份:
    2024
  • 资助金额:
    $ 15万
  • 项目类别:
    Continuing Grant
CAREER: Towards Tight Guarantees of Markov Chain Sampling Algorithms in High Dimensional Statistical Inference
职业:高维统计推断中马尔可夫链采样算法的严格保证
  • 批准号:
    2237322
  • 财政年份:
    2023
  • 资助金额:
    $ 15万
  • 项目类别:
    Continuing Grant
Stability for Markov Chain Monte Carlo Inference with Applications in Robust Stochastic Control
马尔可夫链蒙特卡罗推理的稳定性及其在鲁棒随机控制中的应用
  • 批准号:
    535321-2019
  • 财政年份:
    2022
  • 资助金额:
    $ 15万
  • 项目类别:
    Postgraduate Scholarships - Doctoral
Scalable Algorithm Design for Unbiased Estimation via Couplings of Markov Chain Monte Carlo Methods
通过马尔可夫链蒙特卡罗方法耦合进行无偏估计的可扩展算法设计
  • 批准号:
    2210849
  • 财政年份:
    2022
  • 资助金额:
    $ 15万
  • 项目类别:
    Continuing Grant
Markov chain theory and its applications
马尔可夫链理论及其应用
  • 批准号:
    RGPIN-2021-03775
  • 财政年份:
    2022
  • 资助金额:
    $ 15万
  • 项目类别:
    Discovery Grants Program - Individual
Markov Chain Convergence Rates in High Dimensions
高维马尔可夫链收敛率
  • 批准号:
    569204-2022
  • 财政年份:
    2022
  • 资助金额:
    $ 15万
  • 项目类别:
    Alexander Graham Bell Canada Graduate Scholarships - Doctoral
Markov chain Monte Carlo algorithms and locally informed proposal distributions
马尔可夫链蒙特卡罗算法和本地通知的提案分布
  • 批准号:
    RGPIN-2019-04488
  • 财政年份:
    2022
  • 资助金额:
    $ 15万
  • 项目类别:
    Discovery Grants Program - Individual
Advanced Markov chain Monte Carlo methods for physically based lighting simulations
用于基于物理的照明模拟的高级马尔可夫链蒙特卡罗方法
  • 批准号:
    546767-2020
  • 财政年份:
    2022
  • 资助金额:
    $ 15万
  • 项目类别:
    Postgraduate Scholarships - Doctoral
Robust and scalable Markov chain Monte Carlo for heterogeneous models
适用于异构模型的稳健且可扩展的马尔可夫链蒙特卡罗
  • 批准号:
    EP/V055380/1
  • 财政年份:
    2022
  • 资助金额:
    $ 15万
  • 项目类别:
    Research Grant
{{ showInfoDetail.title }}

作者:{{ showInfoDetail.author }}

知道了