平衡偏差与方差的主动弱监督学习

作为广泛使用的弱监督学习方案，现代多示例学习(MIL)模型在包级别取得了有竞争力的性能。然而，对许多重要应用至关重要的示例级预测仍很不理想。我们提出一种新颖的主动深度多示例学习，对一小部分信息量大的示例进行采样标注，旨在显著提升示例级预测。设计了一种方差正则化损失函数，以适当平衡示例级预测的偏差与方差，旨在有效应对MIL中高度不平衡的示例分布及其他基本挑战。我们不直接最小化非凸的方差正则化损失，而是优化分布鲁棒包级似然作为其凸代理。该鲁棒包似然在强理论保证下良好近似基于方差的MIL损失，并自动平衡偏差与方差，从而有效识别潜在正示例以支持主动采样。该鲁棒包似然可自然集成到深度架构中，利用正负包对的小批量支持深度模型训练。最后，提出了一种新颖的P-F采样函数，结合通过优化鲁棒包似然获得的概率向量与预测示例得分。利用MIL关键假设，该采样函数可探索最具挑战性的包并有效检测其中的正示例用于标注，从而显著改善示例级预测。在多个真实世界数据集上的实验清晰表明，所提模型取得了最先进的示例级预测。