黑箱之外学习：可解释模型的追求
机器学习
2021-03-19 v1 人工智能
摘要
机器学习已证明其生成准确模型的能力，但这些模型在机器学习社区之外的部署因难以解释而受阻。本文提出一种算法，可对任一给定的连续黑箱函数生成连续的全局解释。我们的算法采用投影寻踪的一种变体，其中脊函数选为Meijer G-函数，而非通常的多项式样条。由于Meijer G-函数在其参数上可微，我们可通过梯度下降调整表示的参数；因此，我们的算法是高效的。利用来自UCI存储库的五个熟知数据集和两种熟知机器学习算法，我们证明了我们的算法生成的全局解释既高度准确又简洁（涉及少量项）。我们的解释便于轻松理解特征及特征交互的相对重要性。我们的解释算法代表了相对于先前最先进水平的飞跃。
引用
@article{arxiv.2011.08596,
title = {Learning outside the Black-Box: The pursuit of interpretable models},
author = {Jonathan Crabbé and Yao Zhang and William Zame and Mihaela van der Schaar},
journal= {arXiv preprint arXiv:2011.08596},
year = {2021}
}
备注
presented in 34th Conference on Neural Information Processing Systems (NeurIPS 2020)