利用和积网络评估深度主动学习中的不确定性
机器学习
2023-11-08 v2 信息论
math.IT
摘要
深度主动学习的成功取决于有效采集函数的选择，该函数根据未标注数据点的预期信息量对其进行排序。许多采集函数（部分）基于当前模型对点类标签的不确定性，然而对于如何计算这种不确定性尚无普遍认同的策略。本文提出一种在卷积神经网络 (CNN) 深度主动学习中计算不确定性的新颖且非常简单的方法。其主要思想是，将 CNN 提取的特征表示作为数据来训练和积网络 (SPN)。由于 SPN 通常用于估计数据集的分布，它们非常适合于估计类概率的任务，这些类概率可被最大熵和变分比等标准采集函数直接使用。我们在多个图像分类标准基准数据集上的实验研究证明了该方法的有效性，并将其与深度主动学习中各种最先进的评估不确定性方法进行了比较。
引用
@article{arxiv.2206.09798,
title = {Using Sum-Product Networks to Assess Uncertainty in Deep Active Learning},
author = {Mohamadsadegh Khosravani and Sandra Zilles},
journal= {arXiv preprint arXiv:2206.09798},
year = {2023}
}
备注
15 pages,9 figures, 4 tables