模型无关线性竞争者——当可解释模型与黑盒模型竞争并协作时
机器学习
2019-09-24 v1 人工智能
机器学习
摘要
在模型可解释性需求日益增长的驱动下，可解释模型在许多实际应用中已成为黑盒模型的强劲竞争者。本文提出一种新型模型，其中可解释模型与黑盒模型竞争并协作。我们提出模型无关线性竞争者(Model-Agnostic Linear Competitors, MALC)用于部分可解释分类。MALC 是一种混合模型，利用线性模型在局部替代任意黑盒模型，捕捉最有可能属于某一类的子空间，而将其余数据留给黑盒模型。MALC 结合了线性模型的可解释能力与黑盒模型良好的预测性能。我们将 MALC 模型的训练表述为一个凸优化问题。预测准确率与透明度(定义为被线性模型所捕捉数据的百分比)通过精心设计的目标准则实现平衡，且该优化问题通过加速近端梯度法求解。实验表明，MALC 能有效以预测精度换取透明度，并提供一条贯穿整个透明度区间的有效前沿。
引用
@article{arxiv.1909.10467,
title = {Model-Agnostic Linear Competitors -- When Interpretable Models Compete and Collaborate with Black-Box Models},
author = {Hassan Rafique and Tong Wang and Qihang Lin},
journal= {arXiv preprint arXiv:1909.10467},
year = {2019}
}