iDECODe：利用分布内等变性的共形分布外检测
机器学习
2022-01-10 v1
摘要
深度神经网络（DNNs）等机器学习方法虽在不同领域取得成功，但已知常对训练分布之外的输入给出高置信度的错误预测。DNNs 在安全关键领域的部署要求检测分布外（OOD）数据，以使 DNNs 可避免在这些数据上做出预测。近期已开发多种 OOD 检测方法，但仍有改进空间。我们提出新方法 iDECODe，利用分布内等变性进行共形 OOD 检测。它依赖于归纳共形异常检测框架中使用的新型基非一致性度量与新的聚合方法，从而保证有界的误检率。我们在图像与音频数据集上通过实验证明了 iDECODe 的有效性，取得了最先进的（SOTA）结果。我们还表明 iDECODe 可检测对抗样本。
引用
@article{arxiv.2201.02331,
title = {iDECODe: In-distribution Equivariance for Conformal Out-of-distribution Detection},
author = {Ramneet Kaur and Susmit Jha and Anirban Roy and Sangdon Park and Edgar Dobriban and Oleg Sokolsky and Insup Lee},
journal= {arXiv preprint arXiv:2201.02331},
year = {2022}
}
备注
Association for the Advancement of Artificial Intelligence (AAAI), 2022