Kernelized Elastic Net Regularization based on Markov selective sampling
Kernelized Elastic Net Regularization based on Markov selective sampling
复制标题
基于马尔可夫选择性采样的核化弹性网络正则化
DOI：
10.1016/j.knosys.2018.08.013
复制
发表时间：
2019-01
影响因子：
8.8
通讯作者：
Xu Jie
中科院分区：
文献类型：
--
作者：
Chen Weijian;Xu Chen;Zou Bin;Jin Huidong;Xu Jie
从独立同分布(I.I.D.)的假设出发，扩展了核弹性网正则化(KENReg)算法。样本与非身份证的案件相符。样本。首先建立了一致遍历马氏链样本下KENReg算法的广义界，然后证明了一致遍历马氏链样本下的KENReg算法是相容的，并得到了一致遍历马氏链样本下KENReg算法的快速学习速度。本文还介绍了基于马尔可夫选择抽样的KENReg算法。基于高斯核，比较了KENREG算法相对于传统I.I.D.算法的优势。样本在各种真实数据集上进行了演示。实验结果表明，与随机独立采样相比，基于马尔可夫选择采样的KENReg算法不仅在均方误差方面具有更高的预测精度，而且在非零回归系数个数方面生成的模型更简单，而且采样和训练的总时间更短。将本文提出的算法与核化岭回归、核化最小绝对收缩和选择算子(Lasso)等正则化算法进行比较。
This paper extends Kernelized Elastic Net Regularization (KENReg) algorithm from the assumption of independent and identically distributed (i.i.d.) samples to the case of non-i.i.d. samples. We first establish the generalization bounds of KENReg algorithm with uniformly ergodic Markov chain samples, then we prove that the KENReg algorithm with uniformly ergodic Markov chain samples is consistent and obtain the fast learning rate of KENReg algorithm with uniformly ergodic Markov chain samples. We also introduce the KENReg algorithm based on Markov selective sampling. Based on Gaussian kernels, the advantages of KENReg algorithm against the traditional one with i.i.d. samples are demonstrated on various real-world datasets. Compared to randomly independent sampling, experimental results show that the KENReg algorithm based on Markov selective sampling not only has much higher prediction accuracy in terms of mean square errors and generates simpler models in terms of the number of non-zero regression coefficients, but also has shorter total time of sampling and training. We compare the algorithm proposed in this paper with these known regularization algorithms, like kernelized Ridge regression and kernelized Least absolute shrinkage and selection operator (Lasso).
登录
查看更多内容
影响因子：
3
作者：
Yong-Li Xu;Zhenjun Yang
通讯作者：
Yong-Li Xu;Zhenjun Yang
影响因子：
3
作者：
Peng, Lizhong;Tong, Hongzhi;Chen, Di-Rong
通讯作者：
Chen, Di-Rong
DOI：
10.1109/tsmcb.2009.2036753
发表时间：
2010-08
期刊：
IEEE Transactions on Systems, Man, and Cybernetics, Part B (Cybernetics)
影响因子：
--
作者：
Jong-Seok Lee;C. Park
通讯作者：
Jong-Seok Lee;C. Park
影响因子：
1.9
作者：
F. Wilcoxon
通讯作者：
F. Wilcoxon
影响因子：
11.8
作者：
Bin Zou;Yuanyan Tang;Zongben Xu;Luoqing Li;Jie Xu;Yang Lu
通讯作者：
Bin Zou;Yuanyan Tang;Zongben Xu;Luoqing Li;Jie Xu;Yang Lu