设计固有可解释的机器学习模型
机器学习
2021-11-03 v1 机器学习
摘要
在与人类健康、安全或基本权利相关的高度监管行业领域，可解释机器学习（IML）变得越来越重要。通常，应优先采用固有可解释的IML模型，因为它们具有透明性和可解释性，而带有模型无关解释性的黑箱模型在监管审查下可能更难辩护。为了评估机器学习模型的固有可解释性，我们提出了一个基于特征效应和模型架构约束的定性模板。它提供了高性能IML模型开发的设计原则，并通过回顾我们近期在ExNN、GAMI-Net、SIMTree以及用于深度ReLU网络局部线性可解释性的Aletheia工具包方面的工作给出了示例。我们进一步通过一个预测住房贷款信用违约的真实案例研究，展示了如何设计一个可解释的ReLU DNN模型并评估其概念合理性。我们希望这项工作能为银行业以及其他行业的高风险应用中开发固有IML模型提供实用指南。
引用
@article{arxiv.2111.01743,
title = {Designing Inherently Interpretable Machine Learning Models},
author = {Agus Sudjianto and Aijun Zhang},
journal= {arXiv preprint arXiv:2111.01743},
year = {2021}
}
备注
arXiv admin note: text overlap with arXiv:2011.04041