神经加性模型：基于神经网络的可解释机器学习
机器学习
2021-10-26 v2 人工智能
机器学习
摘要
深度神经网络（DNN）是强大的黑盒预测器，在多种任务上取得了令人印象深刻的性能。然而，其准确性以可理解性为代价：通常不清楚它们如何做出决策。这阻碍了它们在医疗等高风险决策领域的适用性。我们提出神经加性模型（NAMs），它结合了 DNN 的部分表达力与广义加性模型固有的可理解性。NAMs 学习神经网络的一种线性组合，其中每个网络关注单一输入特征。这些网络联合训练，可学习其输入特征与输出之间任意复杂的关系。我们在回归和分类数据集上的实验表明，NAMs 比逻辑回归和浅层决策树等广泛使用的可解释模型更准确。它们在准确性上与现有最先进的广义加性模型相当，但更灵活，因为它们基于神经网络而非提升树。为证明这一点，我们展示了 NAMs 因其可组合性如何用于合成数据与 COMPAS 再犯数据上的多任务学习，并证明 NAMs 的可微性使其能为 COVID-19 训练更复杂的可解释模型。
引用
@article{arxiv.2004.13912,
title = {Neural Additive Models: Interpretable Machine Learning with Neural Nets},
author = {Rishabh Agarwal and Levi Melnick and Nicholas Frosst and Xuezhou Zhang and Ben Lengerich and Rich Caruana and Geoffrey Hinton},
journal= {arXiv preprint arXiv:2004.13912},
year = {2021}
}
备注
Spotlight (Top 3%) at NeurIPS 2021