XPROAX：基于渐进邻域近似的文本分类局部解释方法
机器学习
2022-09-08 v1
摘要
已有文献强调，训练局部代理模型以近似黑盒分类器局部决策边界时，邻域具有重要作用。已有若干尝试利用生成式自编码器为文本等高维数据构建更好的邻域。然而，现有方法主要从潜空间纯随机地生成邻居，并在维度灾难下难以学习良好的局部决策边界。为克服该问题，我们提出一种渐进式邻域近似方法，以反事实实例作为初始路标，并采用谨慎的两阶段采样策略来精炼反事实实例并在待解释输入实例的邻域内生成事实实例。我们的工作聚焦于文本数据，我们的解释既包含来自原始实例（内在）与邻域（外在）的词级解释，也包含在邻域生成过程中发现的事实与反事实实例，其进一步揭示了改动输入文本中某些部分的影响。我们在真实世界数据集上的实验表明，我们的方法在有用性与稳定性（定性部分）以及完整性、紧凑性与正确性（定量部分）上均优于对比方法。
引用
@article{arxiv.2109.15004,
title = {XPROAX-Local explanations for text classification with progressive neighborhood approximation},
author = {Yi Cai and Arthur Zimek and Eirini Ntoutsi},
journal= {arXiv preprint arXiv:2109.15004},
year = {2022}
}
备注
IEEE DSAA '21