迈向分布外检测器的严谨设计
机器学习
2023-06-16 v1
摘要
分布外(OoD)检测技术对于安全相关的神经网络至关重要。然而,我们认为当前面向性能、旨在匹配如预期校准误差等指标的 OoD 检测技术,不足以确立安全性主张。所缺失的是一种用于开发、验证和确认 OoD 检测器的严谨设计方法。这些设计原则需要与预期功能和运行域相对齐。在此,我们阐述了若干关键技术挑战,以及一种可能的前进路径,以开发严谨且安全相关的 OoD 检测器设计方法论。
引用
@article{arxiv.2306.08447,
title = {Towards Rigorous Design of OoD Detectors},
author = {Chih-Hong Cheng and Changshun Wu and Harald Ruess and Saddek Bensalem},
journal= {arXiv preprint arXiv:2306.08447},
year = {2023}
}