Shapley Flow：一种基于图解释模型预测的方法

许多现有的特征重要性估计方法存在问题，因为它们忽略或隐藏了特征之间的依赖关系。编码输入变量间关系的因果图有助于分配特征重要性。然而，当前那些对因果图中节点分配贡献的方法未能解释整个图。鉴于这些局限，我们提出 Shapley Flow，一种解释机器学习模型的新方法。它考虑整个因果图，并将贡献分配给\textit{边}，而非将节点作为贡献分配的基本单元。Shapley Flow 是将 Shapley 值公理推广到有向无环图后的唯一解。我们展示了使用 Shapley Flow 推理模型输入对其输出影响的益处。除保持现有方法的洞见外，Shapley Flow 将基于博弈论的解释方法中普遍的扁平的、基于集合的视角扩展为更深的、\textit{基于图的}视角。这种基于图的视角使用户能够理解重要性在系统中的流动，并推理潜在的干预措施。