稀疏高斯过程分类器设计的加性模型视角
机器学习
2012-06-27 v1 机器学习
摘要
我们考虑设计一个泛化性能良好的稀疏高斯过程分类器(SGPC)的问题。将 SGPC 设计视为像提升(boosting)中那样构建一个加性模型,我们提出了一种高效且有效的 SGPC 设计方法,以逐步优化预测损失函数。我们为任何 SGPC 设计中的两个关键组成部分(即位点参数估计和基向量选择)引入了新方法。所提出的基于自适应采样的基向量选择方法有助于在降低计算成本的同时实现更好的泛化性能。该方法也可以与任何其他位点参数估计方法结合使用。它具有与著名的信息向量机相似的计算和存储复杂度,适用于大型数据集。超参数可以通过优化预测损失函数来确定。实验结果表明,所提出的基向量选择方法在多个基准数据集上具有更好的泛化性能,特别是在基向量集规模相对较小或数据集较困难的情况下。
引用
@article{arxiv.1206.6030,
title = {An Additive Model View to Sparse Gaussian Process Classifier Design},
author = {Sundararajan Sellamanickam and Shirish Shevade},
journal= {arXiv preprint arXiv:1206.6030},
year = {2012}
}
备注
14 pages, 3 figures