利用可解释局部替代获得免费或低成本的透明性
机器学习
2019-05-13 v2 机器学习
摘要
本文研究在预测性能良好的黑盒模型被选优于其可解释对手时的情况，并表明此种情况下仍可达成可解释性。我们的方案是在黑盒模型过于强大或近乎过于强大的数据子集上寻找可解释替代，而将其余部分留给黑盒。该透明性以预测性能的最小或零代价获得。在此框架下，我们开发了混合规则集（HyRS）模型，使用决策规则捕捉规则与所给黑盒同样准确或几乎同样准确的数据子空间。为训练 HyRS，我们设计了一种高效搜索算法，迭代寻找最优模型并利用理论支撑的策略减少计算。我们的框架在训练中对黑盒无关。在结构化与文本数据上的实验表明 HyRS 在透明性与可解释性间取得了有效权衡。
引用
@article{arxiv.1802.04346,
title = {Gaining Free or Low-Cost Transparency with Interpretable Partial Substitute},
author = {Tong Wang},
journal= {arXiv preprint arXiv:1802.04346},
year = {2019}
}