中文

PowerEvaluationBALD:基于随机获取函数的高效面向评估的深度(贝叶斯)主动学习

机器学习 2021-05-12 v2 最优化与控制

摘要

我们开发了BatchEvaluationBALD,一种用于深度贝叶斯主动学习的新获取函数,作为BatchBALD的扩展,其考虑了未标注数据的评估集,例如池集。我们还开发了非贝叶斯设定下的变体,称为评估信息增益(Evaluation Information Gain)。为降低计算需求并允许这些方法扩展到更大的获取批量,我们引入了使用 tempered 获取分数重要性采样的随机获取函数。我们称此方法为PowerEvaluationBALD。我们在若干初步实验中表明,PowerEvaluationBALD与BatchEvaluationBALD表现相当,后者在Repeated MNIST(MNISTx2)上优于BatchBALD,同时相比BatchBALD或BatchEvaluationBALD大幅降低了计算需求。

关键词

引用

@article{arxiv.2101.03552,
  title  = {PowerEvaluationBALD: Efficient Evaluation-Oriented Deep (Bayesian) Active Learning with Stochastic Acquisition Functions},
  author = {Andreas Kirsch and Yarin Gal},
  journal= {arXiv preprint arXiv:2101.03552},
  year   = {2021}
}