Automatic Model Selection for Partially Linear Models.
Automatic Model Selection for Partially Linear Models.
复制标题
DOI：
10.1016/j.jmva.2009.06.009
复制
发表时间：
2009-10-01
影响因子：
1.6
通讯作者：
Zhang, Daowen
中科院分区：
文献类型：
--
作者：
Ni, Xiao;Zhang, Hao Helen;Zhang, Daowen
关键词：
我们提出并研究了部分线性模型中变量选择的统一方法。提出了一种新的双惩罚最小二乘算法，利用光滑样条估计非参数部分，并对参数部分施加收缩惩罚以达到模型的简约性。理论上，我们证明，只要适当地选择光滑化和正则化参数，所提出的方法可以与Oracle估计器一样有效。我们还研究了参数效应个数随样本大小发散时估计量的渐近性质。给出了估计量的协方差和可信区间的频率估计和贝叶斯估计。这种方法的一大优点是它的线性混合模型(LMM)表示，这极大地方便了使用标准统计软件来实现它。此外，LMM框架使人们能够将平滑参数视为方差分量，从而方便地将其与其他回归系数一起估计。通过大量的数值研究，验证了该方法的有效性。
We propose and study a unified procedure for variable selection in partially linear models. A new type of double-penalized least squares is formulated, using the smoothing spline to estimate the nonparametric part and applying a shrinkage penalty on parametric components to achieve model parsimony. Theoretically we show that, with proper choices of the smoothing and regularization parameters, the proposed procedure can be as efficient as the oracle estimator. We also study the asymptotic properties of the estimator when the number of parametric effects diverges with the sample size. Frequentist and Bayesian estimates of the covariance and confidence intervals are derived for the estimators. One great advantage of this procedure is its linear mixed model (LMM) representation, which greatly facilitates its implementation by using standard statistical software. Furthermore, the LMM framework enables one to treat the smoothing parameter as a variance component and hence conveniently estimate it together with other regression coefficients. Extensive numerical studies are conducted to demonstrate the effective performance of the proposed procedure.
登录
查看更多内容
影响因子：
2.7
作者：
AKAIKE, H
通讯作者：
AKAIKE, H
影响因子：
2
作者：
GREEN, PJ
通讯作者：
GREEN, PJ
影响因子：
4.5
作者：
Fan, JQ;Peng, H
通讯作者：
Peng, H
影响因子：
4.5
作者：
HUBER, PJ
通讯作者：
HUBER, PJ
影响因子：
4.5
作者：
Efron, B;Hastie, T;Tibshirani, R
通讯作者：
Tibshirani, R