一种用于分布偏移鲁棒性的有效基线方法
机器学习
2021-05-18 v1 人工智能
摘要
在面对与训练时所见类别不同的输入时避免做出过度自信的预测，是深度学习系统安全部署的一项重要要求。尽管表述简单，这在深度学习中却是一个极具挑战性的问题，模型往往会在此类情形下做出过度自信的预测。在本工作中，我们提出了一种简单但高效的分布外检测方法，该方法采用弃权原则：当遇到来自未见类别的样本时，期望的行为是弃权预测。我们的方法使用一个带有额外弃权类的网络，并在增强后的数据集上训练，该数据集包含一个由大量分布外（OoD）样本组成的未筛选集合，这些样本被赋予弃权类标签；随后模型被训练以学习分布内与分布外样本之间的有效判别器。我们将这一相对简单的方法与深度学习中针对分布外检测以及不确定性建模提出的多种更复杂方法进行了比较，并在图像识别和文本分类的广泛基准与深度架构上通过实验证明了其有效性，常以显著优势超越现有方法。鉴于该方法的简洁与高效，我们建议将其作为该领域未来工作的一个新附加基线。
引用
@article{arxiv.2105.07107,
title = {An Effective Baseline for Robustness to Distributional Shift},
author = {Sunil Thulasidasan and Sushil Thapa and Sayera Dhaubhadel and Gopinath Chennupati and Tanmoy Bhattacharya and Jeff Bilmes},
journal= {arXiv preprint arXiv:2105.07107},
year = {2021}
}