无监督异常检测中用于模型可解释性的规则提取：以单类支持向量机为例
机器学习
2021-11-08 v5 人工智能
摘要
OneClass SVM是一种流行的无监督异常检测方法。与许多其他方法一样，它存在黑箱问题：难以以直观且简单的方式解释为何决策边界将数据点识别为异常或非异常。此类问题在监督模型中已被广泛研究，但在无监督学习领域仍属空白。本文中，我们在OneClass SVM模型上评估了若干规则提取技术，并给出了其中部分算法的替代设计。此外，我们提出了用于计算可解释人工智能（XAI）相关指标的算法，涉及提取规则的“可理解性”、“代表性”、“稳定性”与“多样性”。我们使用不同数据集（包括来自工业界的真实数据）评估了我们的方案。由此，我们的方案有助于将XAI技术拓展至无监督机器学习模型。
引用
@article{arxiv.1911.09315,
title = {Rule Extraction in Unsupervised Anomaly Detection for Model Explainability: Application to OneClass SVM},
author = {Alberto Barbado and Óscar Corcho and Richard Benjamins},
journal= {arXiv preprint arXiv:1911.09315},
year = {2021}
}
备注
23 pages, 18 figures