Boosting理论与算法的研究
结题报告
批准号:
61075003
项目类别:
面上项目
资助金额:
37.0 万元
负责人:
王立威
依托单位:
学科分类:
F0605.模式识别与数据挖掘
结题年份:
2013
批准年份:
2010
项目状态:
已结题
项目参与者:
江明阳、景兆祥、邓效诚、贺笛
国基评审专家1V1指导 中标率高出同行96.8%
结合最新热点,提供专业选题建议
深度指导申报书撰写,确保创新可行
指导项目中标800+,快速提高中标率
客服二维码
微信扫码咨询
中文摘要
Boosting是模式识别、机器学习领域最重要的研究成果之一。虽然在算法方面取得了突出的效果,但关于boosting的两个核心问题- - 1)Boosting为何具备优异的性能;2)Boosting为何会具有较强的抗过拟合能力- - 至今没有令人满意的理论解释。本项目将研究并建立完整的理论体系以回答上述两个核心问题,进而在理论指导下设计更高性能的全新boosting算法。计划建立boosting分类器基于Emargin的泛化错误率上界、匹配下界、以及大样本相合性。设计以优化Emargin为目标的boosting算法。此外,还预计将新算法应用到人脸检测与识别系统。本项目预期在国际权威学术期刊、会议上发表论文8-10篇,并培养3-5名研究生。
英文摘要
Boosting是机器学习领域性能最好的算法之一,已经被广泛用于多个应用领域。Boosting中最具代表性的算法是adaboost。该算法利用一个给定的基本分类算法,通过对训练数据集相继赋予不同的权重分布,学习出一系列基本分类器,而后将这些基本分类器组合起来作为最终的分类器。关于adaboost有两个核心问题:1)为什么adaboost会有如此优异的性能? 2)实验中观察到adaboost在很多情况下不发生过拟和,这似乎与Occam剃刀原则完全相悖,理论上如何解释? ..本项目针对上述两个boosting基本问题进行了较为系统的理论研究。在Schapire, Breiman等人工作的基础上,提出了Equilibrium margin理论。项目核心成果在于,我们证明了一个组合分类器的margin上界。该上界中的核心量是我们定义的一个新的概念,称作Equilibrium-margin,简称Emargin。我们证明了Emargin理论一致优于Breiman的最小margin理论和Schapire的margin distribution理论。这一结果对margin理论的争论给出了解释。此外,我们根据Emargin理论,设计了新的boosting算法,取得了较好的效果。..在上述工作基础上,我们对一般线性分类器的margin理论进行了深入的分析。由Vapnik等人给出的经典margin理论一直认为学习结果的泛化能力只与分类器的margin有关,与数据所在空间维数无关。我们证明了一个新的margin上界,该上界不仅与margin有关,而且与空间维数有关。我们同时证明,新的维数相关margin上界一致优于经典的维数无关上界。新结论说明泛化能力随着空间维数增加变差,并非与维数无关。..此外我们还研究了主动学习理论、排序学习和基于学习的算法博弈论。并将以上理论和算法成果应用于计算机视觉领域的具体问题中,取得了较好的效果。..本项目在包括JMLR, NIPS, COLT, IJCAI等机器学习领域权威学术刊物、会议上发表高水平论文10篇。项目负责人在CCML2013做大会特邀报告。本项目还培养6名研究生。
期刊论文列表
专著列表
科研奖励列表
会议论文列表
专利列表
Smoothness, Disagreement Coefficient, and the Label Complexity of Agnostic Active Learning
不可知主动学习的平滑度、不一致系数和标签复杂度
DOI:10.5555/1953048.2021072
发表时间:2011-02
期刊:Journal of Machine Learning Research
影响因子:6
作者:Wang, Liwei
通讯作者:Wang, Liwei
Further Results on the Margin Explanation of Boosting: New Algorithms and Experiments
Boosting 边际解释的进一步结果:新算法和实验
DOI:--
发表时间:2012
期刊:Science China Information Sciences
影响因子:--
作者:Liwei Wang;Xiaocheng Deng;Zhaoxiang Jing;Jufu Feng
通讯作者:Jufu Feng
A Refined Margin Analysis for Boosting Algorithms via Equilibrium Margin
通过均衡保证金提升算法的精细保证金分析
DOI:10.5555/1953048.2021058
发表时间:2011-02
期刊:Journal of Machine Learning Research
影响因子:6
作者:Wang, Liwei;Sugiyama, Masashi;Jing, Zhaoxiang;Yang, Cheng;Zhou, Zhi-Hua;Feng, Jufu
通讯作者:Feng, Jufu
深度学习泛化与表示理论研究
  • 批准号:
    --
  • 项目类别:
    面上项目
  • 资助金额:
    54万元
  • 批准年份:
    2022
  • 负责人:
    王立威
  • 依托单位:
深度神经网络的margin理论
  • 批准号:
    61573026
  • 项目类别:
    面上项目
  • 资助金额:
    64.0万元
  • 批准年份:
    2015
  • 负责人:
    王立威
  • 依托单位:
基于相异度的模式识别理论与算法研究
  • 批准号:
    60775005
  • 项目类别:
    面上项目
  • 资助金额:
    34.0万元
  • 批准年份:
    2007
  • 负责人:
    王立威
  • 依托单位:
国内基金
海外基金