Understanding Probabilistic Sparse Gaussian Process Approximations
Understanding Probabilistic Sparse Gaussian Process Approximations
复制标题
DOI：
--
复制
发表时间：
2016-06
期刊：
影响因子：
--
通讯作者：
M. Bauer;Mark van der Wilk;C. Rasmussen
中科院分区：
文献类型：
--
作者：
M. Bauer;Mark van der Wilk;C. Rasmussen
良好的稀疏近似对于高斯过程中的实际推理是必不可少的，因为精确方法的计算成本对于大型数据集是过高的。完全独立训练条件（FITC）和变分自由能（VFE）近似是最近流行的两种方法。尽管表面上相似，但这些近似具有令人惊讶的不同理论性质，并且在实践中表现不同。本文通过分析和实例对这两种回归方法进行了深入的研究，并得出了指导实际应用的结论。
Good sparse approximations are essential for practical inference in Gaussian Processes as the computational cost of exact methods is prohibitive for large datasets. The Fully Independent Training Conditional (FITC) and the Variational Free Energy (VFE) approximations are two recent popular methods. Despite superficial similarities, these approximations have surprisingly different theoretical properties and behave differently in practice. We thoroughly investigate the two methods for regression both analytically and through illustrative examples, and draw conclusions to guide practical application.