Now You See Me (CME)：基于概念的模型提取
机器学习
2020-10-27 v1
摘要
深度神经网络（DNN）已在一系列任务上取得卓越性能。进一步赋能基于DNN方法的关键一步是提升其可解释性。在这项工作中，我们提出CME：一个基于概念的模型提取框架，用于通过基于概念提取的模型来分析DNN模型。利用两个案例研究（dSprites和Caltech UCSD Birds），我们展示了CME如何用于（i）分析DNN模型学到的概念信息（ii）分析DNN在预测输出标签时如何使用该概念信息（iii）识别可进一步提升DNN预测性能的关键概念信息（对于其中一个案例研究，我们展示了仅使用30%的可用概念即可将模型准确率提升超过14%）。
引用
@article{arxiv.2010.13233,
title = {Now You See Me (CME): Concept-based Model Extraction},
author = {Dmitry Kazhdan and Botty Dimanov and Mateja Jamnik and Pietro Liò and Adrian Weller},
journal= {arXiv preprint arXiv:2010.13233},
year = {2020}
}
备注
Presented at the AIMLAI workshop at the 29th ACM International Conference on Information and Knowledge Management (CIKM 2020)