理解变分自编码器的基于样本的的可解释性
机器学习
2022-01-25 v4 机器学习
摘要
基于样本的解释方法作为帮助解释黑盒神经网络如何进行预测的手段，已在监督学习方法中被广泛研究。然而，在无人监督学习的语境下，基于样本的解释仍鲜被理解。本文中，我们针对一类称为变分自编码器（VAE）的深度生成模型，研究了影响函数[Koh and Liang, 2017]这一流行的基于样本的解释方法。我们正式构建了此设定下影响函数所回答的反事实问题，并通过理论分析考察了它们揭示了训练样本对经典无监督学习方法影响的何种信息。随后我们基于Pruthi等人[2020]的工作，引入了VAE-TracIn，一种计算高效且理论严谨的VAE解决方案。最后，我们在多个真实世界数据集上通过广泛的定量与定性分析对VAE-TracIn进行了评估。
关键词
引用
@article{arxiv.2105.14203,
title = {Understanding Instance-based Interpretability of Variational Auto-Encoders},
author = {Zhifeng Kong and Kamalika Chaudhuri},
journal= {arXiv preprint arXiv:2105.14203},
year = {2022}
}
备注
NeurIPS 2021