停止为高风险的黑箱机器学习模型做解释，转而使用可解释模型
机器学习
2019-09-24 v3 机器学习
摘要
黑箱机器学习模型目前正被用于整个社会中的高风险决策，在医疗、刑事司法和其他领域引发问题。人们曾希望创建解释这些黑箱模型的方法能缓解其中一些问题，但试图\textit{解释}黑箱模型，而非一开始就创建\textit{可解释}的模型，很可能使不良做法长期存在，并可能对社会造成灾难性危害。有一条前进之路——即设计内在可解释的模型。本手稿阐明了解释黑箱与使用内在可解释模型之间的鸿沟，概述了在高风险决策中应避免可解释黑箱的若干关键原因，指出了可解释机器学习的挑战，并提供了若干应用示例，其中可解释模型有可能在刑事司法、医疗和计算机视觉中替代黑箱模型。
引用
@article{arxiv.1811.10154,
title = {Stop Explaining Black Box Machine Learning Models for High Stakes Decisions and Use Interpretable Models Instead},
author = {Cynthia Rudin},
journal= {arXiv preprint arXiv:1811.10154},
year = {2019}
}
备注
Author's pre-publication version of a 2019 Nature Machine Intelligence article. Shorter Version was published in NIPS 2018 Workshop on Critiquing and Correcting Trends in Machine Learning. Expands also on NSF Statistics at a Crossroads Webinar