快速采样：近似 BAIT 以实现高效且可扩展的深度主动图像分类
计算机视觉与模式识别
2026-03-12 v2 机器学习
摘要
深度主动学习旨在最小化训练深度神经网络的标注成本。BAIT 是一种最近提出的基于费雪信息的主动学习策略，已在各种数据集上展现出令人印象深刻的性能。然而，BAIT 的高计算和内存需求阻碍了其在大规模分类任务上的适用性，导致当前研究在评估中忽略了 BAIT。本文介绍了两种方法来提高 BAIT 的计算效率和可扩展性。值得注意的是，我们通过近似费雪信息显著降低了其时间复杂度。特别是，我们通过 i) 对最可能类别取期望，以及 ii) 构建一个二分类任务来调整原始公式，从而为梯度计算导出一个替代似然。因此，这使得 BAIT 能够高效地用于包括 ImageNet 在内的大规模数据集。我们在各种数据集上的统一且全面的评估表明，我们的近似方法在显著降低时间复杂度的同时，实现了强大的性能。此外，我们提供了一个广泛的开源工具箱，实现了最新的最先进主动学习策略，可在 https://github.com/dhuseljic/dal-toolbox 获取。
引用
@article{arxiv.2404.08981,
title = {Fast Fishing: Approximating BAIT for Efficient and Scalable Deep Active Image Classification},
author = {Denis Huseljic and Paul Hahn and Marek Herde and Lukas Rauch and Bernhard Sick},
journal= {arXiv preprint arXiv:2404.08981},
year = {2026}
}
备注
Accepted at ECML PKDD 2024