勿信加性解释

可解释人工智能（XAI）近来受到大量关注。可解释性正被作为治愈对复杂且不透明模型不信任的良方。诸如 LIME、SHAP 或 Break Down 等模型无关方法承诺对任意复杂机器学习模型提供实例级可解释性。但这些加性解释有多忠实？我们能否依赖对非加性模型的加性解释？在本文中，我们（1）考察在存在交互作用时最流行的实例级解释的行为，（2）引入一种检测实例级解释中交互作用的新方法，（3）进行大规模基准测试以观察加性解释可能具有误导性的频繁程度。