基于正则化对比学习的时间序列归因图
机器学习
2025-02-19 v1 人工智能
机器学习
神经元与认知
摘要
梯度-based 归因方法旨在解释深度学习模型的决策，但目前缺乏可辨识性的保证。本文提出一种方法，通过开发基于时间序列数据的正则化对比学习算法来生成具有可辨识性保证的归因图，同时引入一种新的归因方法称为 Inverted Neuron Gradient (总称为 xCEBRA)。我们在理论上表明，xCEBRA 在识别数据生成过程的雅可比矩阵方面具有有利特性。实验上，我们在合成数据集上展示了对 ground-truth 归因图中零与非零条目的稳健近似，并在基于特征消除、Shapley 值及其他梯度方法的先前归因方法上实现了显著改进。我们的工作构成了可辨识推断时间序列归因图的第一个例子，为更好地理解时间序列数据（例如神经动力学和神经网络中的决策过程）开辟了道路。
引用
@article{arxiv.2502.12977,
title = {Time-series attribution maps with regularized contrastive learning},
author = {Steffen Schneider and Rodrigo González Laiz and Anastasiia Filippova and Markus Frey and Mackenzie Weygandt Mathis},
journal= {arXiv preprint arXiv:2502.12977},
year = {2025}
}
备注
Accepted at The 28th International Conference on Artificial Intelligence and Statistics (AISTATS 2025). Code is available at https://github.com/AdaptiveMotorControlLab/CEBRA