为多元时间序列生成稀疏反事实解释
机器学习
2022-07-05 v2 人工智能
摘要
由于神经网络在关键领域扮演着日益重要的角色，解释网络预测已成为一个关键研究课题。反事实解释有助于理解分类器模型为何判定特定类别归属，并且有助于理解相应输入样本需如何修改才能使类别预测发生改变。以往方法主要关注图像和表格数据。在本工作中，我们提出 SPARCE，一种生成对抗网络（GAN）架构，用于为多元时间序列生成稀疏反事实解释（SPARse Counterfactual Explanations）。我们的方法提供自定义的稀疏层，并从轨迹的相似性、稀疏性和平滑性方面对反事实损失函数进行正则化。我们在真实世界人体运动数据集以及合成时间序列可解释性基准上评估了我们的方法。尽管我们做出的修改显著稀疏于其他方法，我们在所有指标上取得了相当或更好的性能。此外，我们证明我们的方法主要修改显著的时间步与特征，保持非显著输入不变。
引用
@article{arxiv.2206.00931,
title = {Generating Sparse Counterfactual Explanations For Multivariate Time Series},
author = {Jana Lang and Martin Giese and Winfried Ilg and Sebastian Otte},
journal= {arXiv preprint arXiv:2206.00931},
year = {2022}
}
备注
13 pages, 7 figures. Preprint. Under review; added appendix