面向时序数据的模型无关符号对抗解释：MASCOTS
机器学习
2025-03-31 v1
摘要
对抗解释提供了一种直观的方式，通过识别改变结果所需的最小变化来理解模型决策。然而，将对抗方法应用于时序模型仍存在挑战，主要因时序依赖性、高维度以及缺乏直观的人类可解释表征。本文介绍MASCOTS方法，利用“包围感受场”(Bag-of-Receptive-Fields)表示，结合受符号聚合近似(Symbolic Aggregate Approximation)启发的符号变换。通过在符号特征空间中操作，MASCOTS在保持对原始数据与模型忠实度的前提下，提升了可解释性。与依赖模型结构或基于自编码器采样的现有方法不同，MASCOTS以模型无关的方式直接生成有意义且多样化的对抗观测，适用于单变量和多变量数据。我们在单变量和多变量基准数据集上评估了MASCOTS，结果显示其在有效性、接近度和合理性方面与最先进方法相当，但在可解释性和稀疏性方面显著优于。其符号性质使得解释可以以可视化形式、自然语言或语义表征呈现，使对抗推理更加易于理解和实际应用。
引用
@article{arxiv.2503.22389,
title = {MASCOTS: Model-Agnostic Symbolic COunterfactual explanations for Time Series},
author = {Dawid Płudowski and Francesco Spinnato and Piotr Wilczyński and Krzysztof Kotowski and Evridiki Vasileia Ntagiou and Riccardo Guidotti and Przemysław Biecek},
journal= {arXiv preprint arXiv:2503.22389},
year = {2025}
}