BatchBALD:面向深度贝叶斯主动学习的高效多样化批量采集
机器学习
2019-10-29 v2 机器学习
摘要
我们提出了 BatchBALD,它是批量点与模型参数之间互信息的一个可处理的近似,我们将其用作采集函数,以在深度贝叶斯主动学习的任务中联合选择多个信息量大的点。BatchBALD 是一种贪心的线性时间 -近似算法,适用于动态规划和高效缓存。我们将 BatchBALD 与常用的批量数据采集方法进行比较,发现当前方法会采集相似且冗余的点,有时甚至比随机采集数据表现更差。最后我们表明,使用 BatchBALD 考虑采集批次内的依赖关系,我们在标准基准上达到了新的 SOTA 性能,在批量采集方面提供了显著的数据效率提升。
引用
@article{arxiv.1906.08158,
title = {BatchBALD: Efficient and Diverse Batch Acquisition for Deep Bayesian Active Learning},
author = {Andreas Kirsch and Joost van Amersfoort and Yarin Gal},
journal= {arXiv preprint arXiv:1906.08158},
year = {2019}
}