ALUM：基于潜在模型不确定性补偿的对抗数据不确定性建模
机器学习
2023-03-30 v1 计算机视觉与模式识别
摘要
模型不仅关注预测准确性，也关注预测确定性至关重要。由噪声数据引起的深度模型的不确定性预测在可信人工智能领域引发了重大关切。为探索并处理由内在数据噪声导致的不确定性，我们提出一种称为 ALUM 的新方法，以统一框架同时处理模型不确定性与数据不确定性。与仅基于随机选取的训练数据在深度模型最终层建模数据不确定性不同，我们提出挖掘对抗三元组以促进数据不确定性建模，并采用非参数不确定性估计来补偿训练不足的潜在模型层。因此，由噪声数据引起的关键数据不确定性与模型不确定性可被轻易量化，从而提升模型鲁棒性。我们提出的 ALUM 是与模型无关的，可轻松集成到任何现有深度模型中且几乎不带来额外计算开销。在各种噪声学习任务上的大量实验验证了我们方法的优越鲁棒性与泛化能力。代码发布于 https://github.com/wwzjer/ALUM。
引用
@article{arxiv.2303.16866,
title = {ALUM: Adversarial Data Uncertainty Modeling from Latent Model Uncertainty Compensation},
author = {Wei Wei and Jiahuan Zhou and Hongze Li and Ying Wu},
journal= {arXiv preprint arXiv:2303.16866},
year = {2023}
}
备注
10 pages, 5 figures