面向科学推断的特征重要性方法指南
机器学习
2024-08-30 v2 机器学习
统计理论
统计方法学
统计理论
摘要
尽管机器学习 (ML) 模型因其高预测能力而被越来越多地使用，但它们在理解数据生成过程 (DGP) 方面的应用仍然有限。理解 DGP 需要洞察特征与目标之间的关联，而许多 ML 模型由于其内部机制的不透明性无法直接提供这种关联。特征重要性 (FI) 方法在特定条件下为理解 DGP 提供了有用的洞察。由于不同 FI 方法的结论具有不同的解释，为具体用例选择正确的 FI 方法至关重要，且仍需专家知识。本文作为一份综合指南，旨在帮助理解全局 FI 方法的不同解释。通过对 FI 方法的广泛回顾并提供关于其解释的新证明，我们促进了对这些方法的透彻理解，并为科学推断制定了具体建议。最后，我们讨论了 FI 不确定性估计的选项，并指出了旨在从黑盒 ML 模型中进行完整统计推断的未来研究方向。
引用
@article{arxiv.2404.12862,
title = {A Guide to Feature Importance Methods for Scientific Inference},
author = {Fiona Katharina Ewald and Ludwig Bothmann and Marvin N. Wright and Bernd Bischl and Giuseppe Casalicchio and Gunnar König},
journal= {arXiv preprint arXiv:2404.12862},
year = {2024}
}