DeepACTIF：通过神经序列模型中的激活轨迹实现高效特征归因
机器学习
2025-09-25 v1 人工智能
摘要
特征归因对于解释深度学习模型至关重要，尤其是在医疗保健、生物识别和人机交互等时间序列领域。然而，标准的归因方法，如积分梯度或SHAP，计算量大，不适合实时应用。我们提出了DeepACTIF，一种轻量级且架构感知的特征归因方法，它利用序列模型的内部激活来高效地估计特征重要性。我们专注于基于LSTM的网络，引入了一种逆加权聚合方案，该方案强调跨时间步激活的稳定性和幅度。我们在三个生物识别注视数据集上的评估表明，DeepACTIF不仅在严格的特征缩减（前10%的特征）下保持了预测性能，而且在准确性和统计稳健性方面显著优于包括SHAP、IG和DeepLIFT在内的现有方法。通过使用Wilcoxon符号秩检验和效应量分析，我们证明DeepACTIF在所有top-k条件（10 - 40%）下都能产生信息量更丰富且误差显著更低的特征排序。我们的实验表明，DeepACTIF不仅将计算时间和内存使用量降低了数个数量级，而且在使用仅排名靠前的特征时保持了模型精度。这使得DeepACTIF成为在移动XR头显或嵌入式健康监测器等边缘设备上进行实时可解释性的可行解决方案。
引用
@article{arxiv.2509.19362,
title = {DeepACTIF: Efficient Feature Attribution via Activation Traces in Neural Sequence Models},
author = {Benedikt W. Hosp},
journal= {arXiv preprint arXiv:2509.19362},
year = {2025}
}