加速 BatchBALD：用于主动学习的 k-BALD 近似族
机器学习
2023-01-24 v1
摘要
主动学习是一种在有限标注数据下训练机器学习模型的强大方法。BatchBALD 是主动学习中常用的技术，其使用贝叶斯神经网络在池集中寻找信息量最大的待标注点。然而，BatchBALD 的计算可能非常缓慢，尤其对于较大数据集。本文中，我们提出一种新的近似 k-BALD，其使用 k 元互信息项来近似 BatchBALD，大幅降低了计算开销。在 MNIST 数据集上的结果表明，k-BALD 显著快于 BatchBALD，同时保持相近性能。此外，我们还提出一种基于近似质量动态选择 k 的方法，使其在较大数据集上更高效。
引用
@article{arxiv.2301.09490,
title = {Speeding Up BatchBALD: A k-BALD Family of Approximations for Active Learning},
author = {Andreas Kirsch},
journal= {arXiv preprint arXiv:2301.09490},
year = {2023}
}
备注
5 pages, workshop preprint