面向概念漂移下鲁棒优化的自适应加权数据增广一致性正则化
计算机视觉与模式识别
2023-02-01 v2 机器学习
摘要
概念漂移是医学图像分割等自然任务中的普遍问题，其中样本通常来自不同子群体，特征与标签间的相关性各异。医学图像分割中一类常见概念漂移是标注稀疏（极少或无误分割标签）样本与标注密集（大量标注像素）样本之间的“信息不平衡”。现有分布鲁棒算法侧重于自适应截断/降权“信息较少”（即本文中标注稀疏）的样本。为更高效利用标注稀疏样本的数据特征，我们提出一种自适应加权在线优化算法——AdaWAC，将数增广一致性正则化纳入样本重加权。该方法引入一组可训练权重，分别平衡各样本的监督损失与无监督一致性正则化。在底层目标的鞍点处，权重将标注密集样本分配给监督损失，标注稀疏样本分配给无监督一致性正则化。我们通过将优化重构为鞍点问题上的在线镜像下降，给出收敛性保证。实证结果表明，AdaWAC不仅提升了分割性能与样本效率，还在多种基于UNet风格骨干的医学图像分割任务上增强了对概念漂移的鲁棒性。
引用
@article{arxiv.2210.01891,
title = {Adaptively Weighted Data Augmentation Consistency Regularization for Robust Optimization under Concept Shift},
author = {Yijun Dong and Yuege Xie and Rachel Ward},
journal= {arXiv preprint arXiv:2210.01891},
year = {2023}
}