STOOD-X 方法论：基于统计非参数检验的 OOD 检测大规模数据集增强解释性
机器学习
2025-04-04 v1 人工智能
人机交互
机器学习
摘要
离域检测（OOD）是机器学习中的关键任务，尤其是在模型失效可能导致严重后果的安全敏感应用中。然而，当前的 OOD 检测方法常受制于分布性假设受限、可扩展性有限以及缺乏可解释性。为此，我们提出 STOOD-X，一种结合统计非参数检验与解释性增强的两阶段方法。在第一阶段，STOOD-X 使用特征空间距离和 Wilcoxon-Mann-Whitney 检验进行 OOD 样本识别，无需假设特定的特征分布。在第二阶段，它生成用户友好、基于概念的可视化解释，揭示每项决策的驱动特征，遵循 BLUE XAI 框架。通过在基准数据集和多个模型架构上的大量实验，STOOD-X 在高维复杂场景下相较于领先的后置 OOD 检测器表现竞争，尤其在解释性框架下支持人类监督、偏差检测和模型调试，促进人机 AI 系统间的信任与协作。因此，STOOD-X 方法论为实际应用中的可靠、可解释且可扩展的 OOD 检测提供了解决方案。
引用
@article{arxiv.2504.02685,
title = {STOOD-X methodology: using statistical nonparametric test for OOD Detection Large-Scale datasets enhanced with explainability},
author = {Iván Sevillano-García and Julián Luengo and Francisco Herrera},
journal= {arXiv preprint arXiv:2504.02685},
year = {2025}
}
备注
18 pages, 7 Figures