机器学习算法的margin理论
结题报告
批准号:
61375051
项目类别:
面上项目
资助金额:
79.0 万元
负责人:
林通
依托单位:
学科分类:
F0603.机器学习
结题年份:
2017
批准年份:
2013
项目状态:
已结题
项目参与者:
杨李、林旸、郭朕臣、戚峰、王勃、黄波、吕晋
国基评审专家1V1指导 中标率高出同行96.8%
结合最新热点,提供专业选题建议
深度指导申报书撰写,确保创新可行
指导项目中标800+,快速提高中标率
客服二维码
微信扫码咨询
中文摘要
从计算生物学到搜索引擎,机器学习算法已经成为计算机科学中占据主导地位、并且无处不在的强大工具。统计学习理论不但能对现有学习算法的性质提供理论分析,也能用于推导新的或者改进的学习算法。从神经网络、支撑向量机(SVM)到boosting,margin理论都起到了关键性的作用。因此本项目拟从如下三个方面,对margin理论进行深入研究:(1) 基于margin分布的boosting泛化界,(2) PAC-贝叶斯框架下线性分类器(如SVM)的margin界,(3) 主动学习算法中margin对标签复杂度的作用。本项目将以margin理论为研究主线,紧密联系多种学习算法,并通过实验来验证理论的正确性,力争在统计学习理论方面取得突破与创新。
英文摘要
From computational biology to search engine problems, machine learning algorithms have emerged as the dominant and ubiquitous tool in computer science. Statistical learning theory can not only provide insights to the performance of existing learning algorithms, but also help design new or improved algorithms. From neural networks to support vector machines (SVM) and boosting, the margin theory plays a key role in the design and the analysis of these algorithms. This project aims at the study of margin theory from the three aspects: (1) Generalization bound for boosting based on the margin distribution, (2) PAC-Bayesian margin bound for linear classifiers like SVM, (3) the effects of margin on the label complexity for active learning algorithms. The main clue of this project is the margin theory, which is applied to several learning algorithms and is corroborated through extensive experiments. Our goal is to seek ground breakthroughs and innovative ideas in statistical learning theory.
Margin理论在机器学习中占据了重要地位,例如神经网络、支撑向量机SVM、和boosting都需要利用margin理论来给予解释。该项目的主要研究内容是:(1)基于margin分布的boosting泛化界;(2)PAC-贝叶斯框架下的线性分类器如SVM的margin上界;(3)主动学习算法中margin对标签复杂度的作用。根据研究学术前沿动态变化,我们对研究内容做了适当调整,取得重要结果如下:(1)在SVM的margin上界方面,我们提出了基于欧拉弹性杆的几何正则项,给出了求解算法,并理论证明了该算法的Bayes统计相合性。(2)在流形学习上,我们提出了保持局部正交性的对齐方法LOPA。(3)在疾病诊断和基因关联检验的应用方面,我们利用以margin为基础的机器学习算法,得到了较好的实验结果。
期刊论文列表
专著列表
科研奖励列表
会议论文列表
专利列表
Serum levels of chemical elements in esophageal squamous cell carcinoma in Anyang, China: a case-control study based on machine learning methods.
中国安阳市食管鳞癌血清化学元素水平:基于机器学习方法的病例对照研究
DOI:10.1136/bmjopen-2016-015443
发表时间:2017-09-24
期刊:BMJ open
影响因子:2.9
作者:Lin T;Liu T;Lin Y;Zhang C;Yan L;Chen Z;He Z;Wang J
通讯作者:Wang J
DOI:10.5555/2789272.2912113
发表时间:2015
期刊:J. Mach. Learn. Res.
影响因子:--
作者:Tong Lin;Hanlin Xue;Ling Wang;Bo Huang;H. Zha
通讯作者:Tong Lin;Hanlin Xue;Ling Wang;Bo Huang;H. Zha
Nonlinear Dimensionality Reduction by Local Orthogonality Preserving Alignment
通过保持对齐的局部正交性进行非线性降维
DOI:10.1007/s11390-016-1644-4
发表时间:2016-05
期刊:JOURNAL OF COMPUTER SCIENCE AND TECHNOLOGY
影响因子:0.7
作者:Lin Tong;Liu Yao;Wang Bo;Wang Li-Wei;Zha Hong-Bin
通讯作者:Zha Hong-Bin
Comparative study on serum levels of macro and trace elements in schizophrenia based on supervised learning methods
基于监督学习方法的精神分裂症患者血清常量元素和微量元素水平的比较研究
DOI:10.1016/j.jtemb.2017.03.010
发表时间:2017
期刊:JOURNAL OF TRACE ELEMENTS IN MEDICINE AND BIOLOGY
影响因子:3.5
作者:Lin Tong;Liu Tiebing;Lin Yucheng;Yan Lailai;Chen Zhongxue;Wang Jingyu
通讯作者:Wang Jingyu
Gene-based genetic association test with adaptive optimal weights
具有自适应最佳权重的基于基因的遗传关联测试
DOI:10.1002/gepi.22098
发表时间:2018-02-01
期刊:GENETIC EPIDEMIOLOGY
影响因子:2.1
作者:Chen, Zhongxue;Lu, Yan;Wang, Kai
通讯作者:Wang, Kai
变分法与偏微分方程在机器学习中的应用
  • 批准号:
    61075119
  • 项目类别:
    面上项目
  • 资助金额:
    35.0万元
  • 批准年份:
    2010
  • 负责人:
    林通
  • 依托单位:
流形学习与几何数据分析
  • 批准号:
    60775006
  • 项目类别:
    面上项目
  • 资助金额:
    25.0万元
  • 批准年份:
    2007
  • 负责人:
    林通
  • 依托单位:
多进制小波理论及其在基于内容的图像压缩中的应用
  • 批准号:
    60302005
  • 项目类别:
    青年科学基金项目
  • 资助金额:
    15.0万元
  • 批准年份:
    2003
  • 负责人:
    林通
  • 依托单位:
国内基金
海外基金