从模型解释到数据误读：商业研究中事后解释器的警示性分析
机器学习
2026-03-10 v2
摘要
诸如 SHAP 和 LIME 等事后解释器在商业研究中被广泛用于解释复杂的机器学习模型。尽管它们旨在解释模型预测，但日益增多的一种趋势是将它们生成的解释视为关于底层数据关系的证据。基于对 181 项研究（包括发表在顶级期刊上的 56 项）的系统综述，我们记录了这种解释性解读的普遍性并检验了其有效性。我们还评估了事后解释在多大程度上能可靠地恢复真实数据生成过程中特征的方向和相对重要性。我们引入了两个指标——方向一致性和强度一致性——并使用具有已知真值的模拟数据对 SHAP 和 LIME 进行了评估。尽管解释在平均意义上通常看似合理，但它们在一致性上表现出显著的异质性，即使预测准确率很高也可能无法对齐。因此，高预测性能是可靠解释的必要但非充分条件。我们进一步表明，特征相关性和 Rashomon 效应（即许多同等准确的模型依赖于不同的特征归因）是导致不一致的关键驱动因素。此类模型之间解释的一致性提供了可靠性的实用诊断。总体而言，我们的研究结果警示不要使用事后解释器进行假设验证，而应将其定位为生成（而非确认）实质性见解的探索性工具。
引用
@article{arxiv.2408.16987,
title = {From Model Explanation to Data Misinterpretation: A Cautionary Analysis of Post Hoc Explainers in Business Research},
author = {Tong Wang and Ronilo Ragodos and Lu Feng and Yu and Hu},
journal= {arXiv preprint arXiv:2408.16987},
year = {2026}
}