基于Safe screening 的支持向量机的稀疏理论及其快速求解方法
结题报告
批准号:
11671010
项目类别:
面上项目
资助金额:
48.0 万元
负责人:
徐义田
依托单位:
学科分类:
A0405.连续优化
结题年份:
2020
批准年份:
2016
项目状态:
已结题
项目参与者:
周志坚、田英、杨智基、赵江、王荟茹、潘贤丽、朱芳芝、王倩、戴碧艳
国基评审专家1V1指导 中标率高出同行96.8%
结合最新热点,提供专业选题建议
深度指导申报书撰写,确保创新可行
指导项目中标800+,快速提高中标率
客服二维码
微信扫码咨询
中文摘要
支持向量机是一种有效的机器学习方法,但随着数据规模的增大它会消耗大量的运算时间和内存。为了克服上述问题,本项目以变分不等式和对偶投影方法为依据,构建基于safe screening的支持向量机稀疏模型及其快速求解方法。通过前一个优化问题的解,筛选出下一个优化问题解中对应值为0或1的样本,这样大大缩减了优化问题的规模,而且得到与原问题完全一致的解。包括以下内容:基于变分不等式与对偶投影的Twin支持向量机稀疏求解方法;基于safe screening的半监督支持向量机以及半监督Twin支持向量机的稀疏求解方法;构建基于safe Screening的支持向量机的多参数选择模型;构建基于支持向量机的样本与特征同时约减的safe screening模型;改进现有的支持向量机的safe screening准则;最后丰富和完善safe screening的相关理论等。
英文摘要
Support vector machine is an effective machine learning method, and it costs large amount of running time and storage. To address it, based on variational inequality and dual projection methods, sparse support vector machines and their safe screening rules are researched in this project. These rules can greatly reduce the scale of the optimization problems by safely discarding most samples before solving the optimization problem. Moreover we can obtain the same solution as the original optimization problem. The following main contents are included: The sparse solving methods for twin support vector machine based on variational inequality and dual projection methods. The sparse solving methods for semi-supervised support vector machine and semi-supervised twin support vector machine based on safe screening. Parameters selection for multiple parameters in SVM based on safe screening. Sample and feature selection for SVM simultaneously based on safe screening. Modified original safe screening rules for SVM. Enrich and improve the responding theory of safe screening.
本项目主要研究如何提高各类支持向量机模型的预测精度和求解速度。主要包括三个方面内容:一是对现有支持向量机模型的改进与拓展,通过引入不同的损失函数和正则化项,针对分类、回归、多标签以及多任务问题的特点,构建相应的支持向量机模型,来增强模型抗噪性、提高模型的泛化能力。二是针对各类稀疏模型,构建安全筛选准则加速优化问题的求解。包括安全的样本筛选准则、特征筛选准则和样本与特征同时筛选准则。通过各种优化理论对包含最优解的区域进行严格的理论估计,在求解前删除冗余的样本或特征,并从理论上保证删除的样本或特征不影响模型的精度,加快求解速度,因而该方法是安全的。三是丰富和完善安全筛选的相关理论,构建基于可行解而非最优解的筛选方法,从理论和实践中保证准则的安全性。在本项目的支持下,共发表SCI论文38篇(含在线5篇),其中中科院一区19篇,包括4篇IEEE Transactions系列论文,二区8篇。共培养毕业博士4名,毕业硕士11名。目前在读研究生12名。毕业博士中有1人入选“云南省青年千人”计划,破格晋升为副教授,1名攻读中科院博士后。1名博士的毕业论文被评为中国农业大学十佳优秀博士论文。指导的研究生有3人获得国家奖学金,1人获得校长奖学金(最高奖),6人次获得北京运筹学会、北京计算数学学会优秀论文奖。
期刊论文列表
专著列表
科研奖励列表
会议论文列表
专利列表
Multi-variable estimation-based safe screening rule for small sphere and large margin support vector machine
基于多变量估计的小球大边缘支持向量机安全筛选规则
DOI:10.1016/j.knosys.2019.105223
发表时间:2020-03
期刊:Knowledge-Based Systems
影响因子:8.8
作者:Cao Yuzhou;Xu Yitian;Du Junling
通讯作者:Du Junling
Asymmetric nu-twin support vector regression
非对称nu-twin支持向量回归
DOI:10.1007/s00521-017-2966-z
发表时间:2018
期刊:Neural Computing & Applications
影响因子:6
作者:Xu Yitian;Li Xiaoyan;Pan Xianli;Yang Zhiji
通讯作者:Yang Zhiji
An improved rough margin-based v-twin bounded support vector machine
一种改进的基于粗糙边缘的v型孪生有界支持向量机
DOI:10.1016/j.knosys.2017.05.004
发表时间:2017
期刊:Knowledge-Based Systems
影响因子:8.8
作者:Wang Huiru;Zhou Zhijian
通讯作者:Zhou Zhijian
DOI:10.1016/j.ins.2020.08.067
发表时间:2021-02
期刊:Information Science
影响因子:--
作者:Wu Weichen;Xu Yiitan;Pang Xinying
通讯作者:Pang Xinying
Concave-Convex Programming for Ramp Loss-Based Maximum Margin and Minimum Volume Twin Spheres Machine
基于斜坡损失的最大余量和最小体积双球机的凹凸规划
DOI:10.1007/s11063-018-9903-8
发表时间:2018-08
期刊:Neural Processing Letters
影响因子:3.1
作者:Wang Qian;Xu Yitian
通讯作者:Xu Yitian
基于Safe screening的多任务稀疏学习理论与算法的研究
  • 批准号:
    --
  • 项目类别:
    面上项目
  • 资助金额:
    51万元
  • 批准年份:
    2020
  • 负责人:
    徐义田
  • 依托单位:
粗糙双胞胎支持向量机算法的研究及应用
  • 批准号:
    61153003
  • 项目类别:
    专项基金项目
  • 资助金额:
    15.0万元
  • 批准年份:
    2011
  • 负责人:
    徐义田
  • 依托单位:
国内基金
海外基金