面向文本分类器解释的透明邻域近似方法

近期文献强调了邻域构建在导出模型无关解释中的关键作用，尤其是对于解释文本分类器，越来越多的研究倾向于部署生成模型以提高合成实例的质量。这些方法克服了文本非结构化特性所带来的邻域构建挑战，从而提升了解释质量。然而，部署的生成器通常基于神经网络实现，缺乏内在的可解释性，引发了对解释过程透明性的争议。为解决这一限制同时保持邻域质量，本文引入一种基于概率的编辑方法作为黑箱文本生成器的替代方案。该方法通过基于文本内部上下文的编辑操作来生成邻域文本。将基于生成器的构建过程替换为递归概率-based 编辑，所得解释方法 XPROB（基于概率的编辑解释器）在两个真实数据集上的评估表现出竞争力。此外，XPROB 完全透明且更可控的构建过程导致其在稳定性方面优于基于生成器的解释器。