基于结构学习的非平行支持向量机最优化方法研究
结题报告
批准号:
11426202
项目类别:
数学天元基金项目
资助金额:
3.0 万元
负责人:
陈伟杰
依托单位:
学科分类:
A0405.连续优化
结题年份:
2015
批准年份:
2014
项目状态:
已结题
项目参与者:
邵元海、冯志林、王荃
国基评审专家1V1指导 中标率高出同行96.8%
结合最新热点,提供专业选题建议
深度指导申报书撰写,确保创新可行
指导项目中标800+,快速提高中标率
客服二维码
微信扫码咨询
中文摘要
支持向量机(SVM)是当前公认最有效的机器学习方法之一。非平行支持向量机将SVM构造的“平行超平面”推广至“非平行超平面”,是SVM方法新的突破。它在处理“交叉型”和“异方差噪声型”数据问题上突显出了良好的泛化能力,进而得到了很多学者关注和后续研究。然而,非平行支持向量机的研究还很不充分,尤其是其最优化理论和模型方面的研究还很欠缺。本课题拟在若干前期基础上来研究非平行支持向量机,主要包括:(1) 提出具有最大间隔和统一度量的非平行支持向量机模型,并给出相关的理论证明;(2) 针对异分布结构数据,引入结构正则化惩罚,捕获数据聚类结构信息,构建基于“簇粒度”的非平行支持向量机模型;(3) 结合超松弛(SOR)技术与光滑(Smoothing)技术对以上模型提出具有稀疏性的快速求解算法。本课题将为非平行支持向量机的研究提供理论、方法和技术支持。
英文摘要
Support vector machine (SVM) has been recognized as one of the most effective learning methods in the machine learning community. As a new breakthrough, nonparallel support vector machine relaxes the universal requirement that the hyperplanes generated by SVM should be parallel, resulting in excellent at dealing with “xor” and “heteroscedastic noise” problems. Thus, methods of constructing nonparallel support vector machine has been extensively studied. However, compared with SVM, it still has many challenges, especially in its optimization theory and modeling. Based on our preliminary works, we study the nonparallel support vector machine from the following aspects: (1) we will propose a novel nonparallel support vector machine with maximum margin and unified metric, and further give its theoretical framework. (2) For the heteroscedastic distribution structure problem, we will construct a cluster-based structure nonparallel support vector machine via structure regularization penalty. (3) Combing with the over-relaxation and smoothing techniques, fast and sparse solving algorithms will be further designed for the above models. The goal of our project is provide the theory, methods and technical support for nonparallel support vector machine.
本基金重点围绕在非平行超平面SVM中存在的结构化学习问题,从最优化模型的构建、样本结构信息的提取、结构学习算法的设计到快速求解算法等展开深入研究,旨在提出面向结构学习的非平行超平面SVM方法学习框架。主要包括:(1) 非平行SVM的最优化模型:首次提出多标签非平行SVM;基于聚类拟合思想,提出训练/预测一致性的非平行SVM学习框架;基于结构风险最小化原则,提出特征值分解支持向量机模型。(2) 结构信息化学习:构造Laplacian图矩阵,捕获数据潜在分布结构信息;基于流形结构学习框架,提出半监督非平行SVM模型;首次提出适合PU学习问题的结构学习的非平行SVM模型。(3) 非平行SVM快速求解算法:针对非平行SVM求解对偶问题存在高计算复杂度矩阵求逆问题,分别提出了两种快速求解算法:conjugate gradient(CG)算法和smooth算法。针对大规模分类问题,引入加权线性损失,提出WLTSVM模型及快速求解算法。相关研究成果已在国内外期刊已发表7篇学术论文,其中被科学索引SCI论文5篇(2篇TOP SCI);A类中文期刊2篇。本基金研究成果将为非平行支持向量机的研究提供理论、方法和技术支持。
期刊论文列表
专著列表
科研奖励列表
会议论文列表
专利列表
MLTSVM: A novel twin support vector machine to multi-label learning
MLTSVM:一种新颖的多标签学习双支持向量机
DOI:10.1016/j.patcog.2015.10.008
发表时间:2016-04-01
期刊:PATTERN RECOGNITION
影响因子:8
作者:Chen, Wei-Jie;Shao, Yuan -Hai;Deng, Nai-Yang
通讯作者:Deng, Nai-Yang
DOI:--
发表时间:2015
期刊:浙江大学学报(工学版)
影响因子:--
作者:冯志林;周佳男;陈伟杰;尹建伟
通讯作者:尹建伟
Laplacian unit-hyperplane learning from positive and unlabeled examples
从正面和未标记示例中进行拉普拉斯单位超平面学习
DOI:10.1016/j.ins.2015.03.066
发表时间:2015-09
期刊:Information Sciences
影响因子:8.1
作者:Yuan-Hai Shao;Wei-Jie Chen;Li-Ming Liu;Nai-Yang Deng
通讯作者:Nai-Yang Deng
DOI:--
发表时间:2016
期刊:模式识别与人工智能
影响因子:--
作者:陈伟杰;邵元海;李春娜;邓乃扬
通讯作者:邓乃扬
A novel parametric-insensitive nonparallel support vector machine for regression
一种新颖的参数不敏感的非并行支持向量机回归
DOI:10.1016/j.neucom.2015.07.003
发表时间:2016
期刊:Neurocomputing
影响因子:6
作者:Zhi-Min Yang;Xiang-Yu Hua;Yuan-Hai Shao;Ya-Fen Ye
通讯作者:Ya-Fen Ye
面向不确定性数据的稳健学习模型与算法研究
  • 批准号:
    LY21F030013
  • 项目类别:
    省市级项目
  • 资助金额:
    0.0万元
  • 批准年份:
    2020
  • 负责人:
    陈伟杰
  • 依托单位:
复杂多流形半监督问题的非平行支持向量机方法研究
  • 批准号:
    61603338
  • 项目类别:
    青年科学基金项目
  • 资助金额:
    19.0万元
  • 批准年份:
    2016
  • 负责人:
    陈伟杰
  • 依托单位:
国内基金
海外基金