用于主动学习的核差异
机器学习
2017-06-09 v1 机器学习
摘要
主动学习算法提议应查询哪些未标记对象以获得其标签，从而最大程度地改进预测模型。我们研究了最小化泛化界的主动学习器，并揭示了这些界之间的关系，从而引出一种改进的主动学习方法。特别地，我们展示了最先进的最大均值差异(MMD)主动学习器的界、差异(Discrepancy)的界以及我们称之为核差异(Nuclear Discrepancy)界的一个新的较松界之间的关系。我们通过一个概率论证来激发该界的合理性：我们表明它考虑了更可能发生的情形。我们的实验表明，使用最紧的差异界进行主动学习在平方损失方面表现最差。总体而言，我们提出的最松的核差异泛化界表现最佳。我们从经验上证实了我们的概率论证：其他界聚焦于更为悲观且实践中更罕见的场景。我们得出结论，界的紧致性并非总是最重要的，主动学习方法应关注现实场景以提升性能。
引用
@article{arxiv.1706.02645,
title = {Nuclear Discrepancy for Active Learning},
author = {Tom J. Viering and Jesse H. Krijthe and Marco Loog},
journal= {arXiv preprint arXiv:1706.02645},
year = {2017}
}
备注
32 pages, 5 figures, 4 tables