EMaP：基于流形的扰动实现可解释 AI
机器学习
2022-09-20 v1
摘要
在过去几年中，许多基于输入数据扰动的解释方法被提出，以增进我们对黑盒模型所作决策的理解。本工作的目标是引入一种新颖的扰动方案，从而可获得更忠实且鲁棒的解释。我们的研究聚焦于扰动方向对数据拓扑的影响。我们表明，沿输入流形的正交方向扰动能更好地保持数据拓扑，这既体现在离散 Gromov-Hausdorff 距离的最坏情况分析中，也体现在通过持续同调的平均情况分析中。基于这些结果，我们引入了实现正交扰动方案的 EMaP 算法。我们的实验表明，EMaP 不仅提升了解释器的性能，还帮助它们克服了一种近期开发的针对基于扰动方法的攻击。
引用
@article{arxiv.2209.08453,
title = {EMaP: Explainable AI with Manifold-based Perturbations},
author = {Minh N. Vu and Huy Q. Mai and My T. Thai},
journal= {arXiv preprint arXiv:2209.08453},
year = {2022}
}
备注
29 pages