高斯随机场上批量主动学习与调查问题中的次模性
机器学习
2012-09-18 v1 人工智能
数据结构与算法
摘要
许多现实世界数据集可以表示为图的形式,其边权重指定实例之间的相似性。离散高斯随机场 (GRF) 模型是一种有限维高斯过程 (GP),其先验协方差是图拉普拉斯算子的逆。在 GRF 上最小化预测协方差 Sigma 的迹(V-最优性)已在具有预算约束的批量主动学习分类问题中取得成功。然而,其最坏情况界限一直缺失。我们证明了作为批量查询集函数的 GRF 上的 V-最优性是次模的,因此其贪心选择算法保证了 (1-1/e) 的近似比。此外,GRF 模型满足无抑制子 (AofS) 条件。对于主动调查问题,我们提出了一种类似的调查准则,即最小化 1'(Sigma)1。在实践中,V-最优性准则的表现优于具有互信息增益准则的 GPs,并允许不同节点具有非均匀成本。
引用
@article{arxiv.1209.3694,
title = {Submodularity in Batch Active Learning and Survey Problems on Gaussian Random Fields},
author = {Yifei Ma and Roman Garnett and Jeff Schneider},
journal= {arXiv preprint arXiv:1209.3694},
year = {2012}
}