去钓鱼：基于 Fisher 嵌入的神经主动学习
机器学习
2021-12-15 v2
摘要
对与深度神经网络兼容的有效主动学习算法的需求日益增长。本文论证并重新审视了一个经典的、基于 Fisher 的主动选择目标，并提出了 BAIT，一种实用、可处理且高性能的算法，使其可用于神经模型。BAIT 从参数模型最大似然估计器（MLE）的理论分析中汲取灵感。它通过优化关于 Fisher 信息的 MLE 误差上界来选取样本批次，我们证明可通过利用特别适合在现代硬件上执行的线性代数结构，在大规模下高效实现。我们的实验表明，BAIT 在分类和回归问题上均优于先前的最先进水平，并且足够灵活以用于多种模型架构。
引用
@article{arxiv.2106.09675,
title = {Gone Fishing: Neural Active Learning with Fisher Embeddings},
author = {Jordan T. Ash and Surbhi Goel and Akshay Krishnamurthy and Sham Kakade},
journal= {arXiv preprint arXiv:2106.09675},
year = {2021}
}