从相关到因果：将可解释机器学习形式化为统计过程
计算机视觉与模式识别
2022-07-12 v1 人工智能
机器学习
摘要
可解释 AI（XAI）在临床诊断等安全关键系统中因致命决策的高风险而成为必需。然而目前，XAI 更像是方法的松散集合，而非定义良好的过程。本工作中，我们详述了 XAI 中最大子群——可解释机器学习（IML）——与经典统计学之间的概念相似性。基于这些相似性，我们沿统计过程之线索给出了 IML 的形式化。采用该统计视角使我们能将机器学习模型与 IML 方法解释为精密统计工具。基于此解释，我们推导出三个关键问题，并认定它们对 IML 在安全关键环境中的成功与采纳至关重要。通过表述这些问题，我们进一步旨在引发关于 IML 与经典统计学的区别以及我们的视角对该领域未来意味的讨论。
引用
@article{arxiv.2207.04969,
title = {From Correlation to Causation: Formalizing Interpretable Machine Learning as a Statistical Process},
author = {Lukas Klein and Mennatallah El-Assady and Paul F. Jäger},
journal= {arXiv preprint arXiv:2207.04969},
year = {2022}
}
备注
Accepted at IJCAI 2022 Workshop on Explainable Artificial Intelligence (XAI)