基于规则的分布外检测
人工智能
2023-08-22 v4
摘要
分布外检测是机器学习部署中最关键的问题之一。数据分析师必须确保运行中的数据符合训练阶段的情况，并理解环境是否以致使自主决策不再安全的方式发生了变化。本文方法基于可解释人工智能(XAI)；它考虑不同的度量来识别由XAI模型所见的分布内与分布外之间的任何相似性。该方法是非参数的且无分布假设。在复杂场景（预测性维护、车辆编队、网络安全中的隐蔽通道）上的验证证实了检测的准确性以及对训练-运行条件接近程度的评估。结果可通过开源与开放数据在以下链接获取：https://github.com/giacomo97cnr/Rule-based-ODD。
引用
@article{arxiv.2303.01860,
title = {Rule-based Out-Of-Distribution Detection},
author = {Giacomo De Bernardi and Sara Narteni and Enrico Cambiaso and Maurizio Mongelli},
journal= {arXiv preprint arXiv:2303.01860},
year = {2023}
}