高斯过程的预测性主动集选择方法
机器学习
2011-06-24 v2
摘要
我们提出了一种用于高斯过程分类的主动集选择框架，适用于数据集规模过大而无法进行推理的情况。我们的方案包括一个两步交替过程：主动集更新规则和基于边际似然最大化的超参数优化。主动集更新规则依赖于高斯过程分类器的预测分布能够估计数据点在模型中包含或移除时的相对贡献。这意味着我们可以利用它来包含对分类器决策过程具有潜在高影响力的点，同时移除那些不太相关的点。我们引入了基于不同准则的两种主动集规则：第一种优先选择具有可解释主动集参数的模型，而第二种则将计算复杂度放在首位，因此是一种主动集参数直接控制其复杂度的模型。我们还为我们的主动集选择策略作为完整高斯过程分类器的良好近似提供了理论和实证支持。我们的大量实验表明，我们的方法可以在合理的时间复杂度下与最先进的分类技术竞争。源代码公开于 http://cogsys.imm.dtu.dk/passgp。
引用
@article{arxiv.1102.4548,
title = {Predictive Active Set Selection Methods for Gaussian Processes},
author = {Ricardo Henao and Ole Winther},
journal= {arXiv preprint arXiv:1102.4548},
year = {2011}
}
备注
10 pages, 6 figures