PUlasso: High-Dimensional Variable Selection With Presence-Only Data
PUlasso: High-Dimensional Variable Selection With Presence-Only Data
复制标题
PUlasso：仅存在数据的高维变量选择
DOI：
10.1080/01621459.2018.1546587
复制
发表时间：
2018
影响因子：
3.7
通讯作者：
Raskutti, Garvesh
中科院分区：
文献类型：
--
作者：
Song, Hyebin;Raskutti, Garvesh
在各种现实世界的问题中，我们会遇到带有积极且未标记数据的分类问题，称为仅存在响应。在本文中，我们研究仅存在响应的背景下的变量选择，其中特征或协变量 p 的数量很大。仅存在响应和高维度的结合提出了统计和计算挑战。在本文中，我们开发了 PUlasso 算法，用于具有积极和未标记响应的变量选择和分类。我们的算法涉及使用主要最小化框架，它是众所周知的期望最大化（EM）算法的概括。特别是为了使我们的算法具有可扩展性，我们为标准 EM 算法提供了两种计算加速。我们提供了一个理论保证，首先证明我们的算法收敛到一个驻点，然后证明真实参数的局部邻域内的任何驻点在严格稀疏性和群稀疏性假设下都实现了极小极大最优均方误差。我们还通过模拟证明，在分类性能方面，我们的算法在中等 p 设置下优于最先进的算法。最后，我们证明我们的 PUlasso 算法在生物化学示例中表现良好。本文的补充材料可在线获取。
In various real-world problems, we are presented with classification problems with positive and unlabeled data, referred to as presence-only responses. In this article we study variable selection in the context of presence only responses where the number of features or covariates p is large. The combination of presence-only responses and high dimensionality presents both statistical and computational challenges. In this article, we develop the PUlasso algorithm for variable selection and classification with positive and unlabeled responses. Our algorithm involves using the majorization-minimization framework which is a generalization of the well-known expectation-maximization (EM) algorithm. In particular to make our algorithm scalable, we provide two computational speed-ups to the standard EM algorithm. We provide a theoretical guarantee where we first show that our algorithm converges to a stationary point, and then prove that any stationary point within a local neighborhood of the true parameter achieves the minimax optimal mean-squared error under both strict sparsity and group sparsity assumptions. We also demonstrate through simulations that our algorithm outperforms state-of-the-art algorithms in the moderate p settings in terms of classification performance. Finally, we demonstrate that our PUlasso algorithm performs well on a biochemistry example. Supplementary materials for this article are available online.
登录
查看更多内容
讨论：“套索的显着性检验”
DOI：
10.1214/13-aos1175b
发表时间：
2014
期刊：
arXiv: Statistics Theory
影响因子：
--
作者：
T. Cai;M. Yuan
通讯作者：
M. Yuan
DOI：
10.1587/transinf.e97.d.1358
发表时间：
2014-05
期刊：
IEICE Trans. Inf. Syst.
影响因子：
--
作者：
M. C. D. Plessis;Masashi Sugiyama
通讯作者：
M. C. D. Plessis;Masashi Sugiyama
非凸惩罚 M 估计量驻点的尖锐 Oracle 不等式
影响因子：
2.5
作者：
A. Elsener;Sara van de Geer
通讯作者：
Sara van de Geer
A·哈贝：（1989）
DOI：
--
发表时间：
--
期刊：
影响因子：
--
作者：
通讯作者：
--
惩罚回归
DOI：
--
发表时间：
--
期刊：
Wiley StatsRef: Statistics Reference Online
影响因子：
--
作者：
S. Shin;Yichao Wu
通讯作者：
Yichao Wu