通过不确定性感知的损坏模式估计阐明鲁棒学习
机器学习
2023-02-08 v2 人工智能
摘要
鲁棒学习方法旨在从含噪且损坏的训练数据中学习一个干净的目标分布,其中通常先验地假设一个特定的损坏模式。我们提出的方法不仅能成功地从脏数据集中学习干净的目标分布,还能估计底层的噪声模式。为此,我们利用一个混合专家模型,该模型能够区分两种不同类型的预测不确定性,即偶然不确定性和认知不确定性。我们表明,估计不确定性的能力在阐明损坏模式方面起着重要作用,因为这两个目标是紧密交织的。我们还提出了一种新颖的验证方案,用于评估损坏模式估计的性能。我们提出的方法在包括计算机视觉和自然语言处理在内的多个领域中,从鲁棒性和损坏模式估计两个方面进行了广泛评估。
引用
@article{arxiv.2111.01632,
title = {Elucidating Robust Learning with Uncertainty-Aware Corruption Pattern Estimation},
author = {Jeongeun Park and Seungyoun Shin and Sangheum Hwang and Sungjoon Choi},
journal= {arXiv preprint arXiv:2111.01632},
year = {2023}
}