xGEMs：生成示例以解释黑盒模型
机器学习
2018-06-26 v1 机器学习
摘要
本工作提出 xGEMs（流形引导示例），一个通过探索底层数据流形上数据点跨越决策边界的景观来理解黑盒分类器行为的框架。为此，我们训练了一个无监督隐式生成模型——被视为数据流形的代理。我们通过沿流形扰动数据样本，定量地总结黑盒模型行为。我们展示了 xGEMs 检测并量化模型学习中的偏差，以及理解训练过程中模型行为变化的能力。
引用
@article{arxiv.1806.08867,
title = {xGEMs: Generating Examplars to Explain Black-Box Models},
author = {Shalmali Joshi and Oluwasanmi Koyejo and Been Kim and Joydeep Ghosh},
journal= {arXiv preprint arXiv:1806.08867},
year = {2018}
}