盒中有何物？通过可解释特征评估解释黑盒模型
计算机视觉与模式识别
2019-08-14 v1 人工智能
机器学习
摘要
算法是我们每天使用的大量信息背后强大且必要的工具。然而，它们可能引入新的偏见、歧视及其他影响不知情人群的不公平行为来源。更高的算法透明度对于提供更可信和可靠的服务是不可或缺的。此外，要求开发者设计透明的算法驱动应用，使他们能保持模型可访问且人类可理解，从而增强最终用户的信任。本文中，我们提出 EBAnO，一种能够通过利用可解释特征扰动为黑盒模型生成预测局部解释的新引擎。EBAnO 利用超列表示与聚类分析来识别一组图像的可解释特征。此外，提出了两个指标来衡量输入特征对 CNN 模型最终预测的影响。EBAnO 已在一组异构图像上进行了初步测试。结果凸显了 EBAnO 通过评估可解释特征影响来解释 CNN 分类的有效性。
引用
@article{arxiv.1908.04348,
title = {What's in the box? Explaining the black-box model through an evaluation of its interpretable features},
author = {Francesco Ventura and Tania Cerquitelli},
journal= {arXiv preprint arXiv:1908.04348},
year = {2019}
}
备注
5 pages, 5 images