基于Bregman校准的深度网络在线贝叶斯不平衡学习

类别不平衡是机器学习中的根本挑战，标准分类器在少数类上表现严重下降。虽然现有方法通过重采样或在训练期间采用成本敏感学习来解决不平衡问题，但在部署时遇到类别分布变化时需要重新训练或获取目标数据的标签，这在欺诈检测、医疗诊断和异常检测等实际应用中屡见不鲜。我们提出了一种称为\textit{Online Bayesian Imbalanced Learning}（OBIL）的原则框架，将似然比估计从类先验假设中解耦，实现对分布变化的实时适应，无需模型重新训练。我们的做法基于Bregman散度与proper scoring rules之间的已建立联系，表明以此类损失训练的深度网络可产生从中提取出先验不变似然比的后验概率估计。我们证明，这些似然比估计在类先验和成本结构发生任意变化时仍然有效，只需调整阈值即可获得最优贝叶斯决策。我们推导了有限样本的后悔界，表明OBIL在诸多基准数据集和医疗诊断基准测试上的实验结果显示，在测试分布显著偏离训练条件的情况下，OBIL在F1分数上超过了最新方法。