为核集辩护：一种用于主动学习的密度感知核集选择方法

主动学习通过从未标注数据集中标注信息丰富的样本，实现了标注数据集的高效构建。在真实世界的主动学习场景中，考虑所选样本的多样性至关重要，因为存在许多冗余或高度相似的样本。核集（Core-set）方法是一种有前景的基于多样性的方法，根据样本间距离选择多样化样本。然而，与选择神经网络模型置信度低的最困难样本的基于不确定性的方法相比，该方法的性能较差。在本文中，我们通过密度的视角分析特征空间，并有趣地观察到局部稀疏区域往往比密集区域具有更多信息丰富的样本。受此分析启发，我们为核集方法赋予密度感知能力，并提出密度感知核集（DACS）。该策略是估计未标注样本的密度，并主要从稀疏区域选择多样化样本。为减少密度估计中的计算瓶颈，我们还引入了一种基于局部敏感哈希的新密度近似方法。实验结果清晰地证明了 DACS 在分类和回归任务中的有效性，并特别表明 DACS 在实际场景中能产生最先进的性能。由于 DACS 对神经架构依赖较弱，我们提出了一种简单而有效的组合方法，以展示现有方法可与 DACS 有益结合。