通过真实样本渐进式邻域近似解释文本分类器
计算与语言
2023-02-16 v1 机器学习
摘要
局部解释方法中邻域构建的重要性已在文献中被强调。已有若干尝试通过采用生成模型来改善高维数据（例如文本）的邻域质量。尽管生成器能产生更真实的样本，现有解决方案中直观的采样方式使隐空间未被充分探索。为克服该问题，我们聚焦于文本分类器的局部模型无关解释，提出一种渐进式近似方法，利用反事实样本作为路标，通过谨慎的两阶段插值来精炼待解释决策的邻域。我们明确规定了生成模型应满足的两条性质——重构能力与保局部性，以指导局部解释方法中生成器的选择。此外，在研究过程中我们注意到生成模型的不透明性，提出了另一种方法，以基于概率的编辑实现渐进式邻域近似，作为基于生成器方案的替代。两种方法的解释结果均包含词级与实例级解释，得益于真实的邻域。通过详尽实验，我们从定性与定量两方面证明了所提两种方法的有效性。
引用
@article{arxiv.2302.07733,
title = {Explaining text classifiers through progressive neighborhood approximation with realistic samples},
author = {Yi Cai and Arthur Zimek and Eirini Ntoutsi and Gerhard Wunder},
journal= {arXiv preprint arXiv:2302.07733},
year = {2023}
}