OrdShap：用于顺序黑箱模型的特征位置重要性
机器学习
2025-11-06 v2
摘要
顺序深度学习模型在具有时序或序列依赖关系的领域中表现突出，但其复杂性使得后置特征归因方法成为理解其预测的必要。虽然现有技术量化特征重要性，但它们本质上假设特征排序固定——混合了(1)特征值和(2)其在输入序列中的位置效应的影响。为解决这一空白，我们引入OrdShap，这是一种新型归因方法，通过量化模型对特征位置置换导致的预测变化来分离这些效应。我们在OrdShap与Sanchez-Berganti\~nos值之间建立了博弈论联系，为位置敏感归因提供了在理论上有据可依的方法。来自健康、自然语言和合成数据集的实证结果突出了OrdShap在捕捉特征值和特征位置归因方面的有效性，并提供了对模型行为的更深入见解。
引用
@article{arxiv.2507.11855,
title = {OrdShap: Feature Position Importance for Sequential Black-Box Models},
author = {Davin Hill and Brian L. Hill and Aria Masoomi and Vijay S. Nori and Robert E. Tillman and Jennifer Dy},
journal= {arXiv preprint arXiv:2507.11855},
year = {2025}
}
备注
Advances in Neural Information Processing Systems, Volume 38 (NeurIPS 2025)