k-NN 作为基于实例的解释方法的行为研究
机器学习
2021-09-16 v1
摘要
深度学习（DL）模型在关键领域的采用导致对可靠解释方法的需求不断升级。基于实例的解释方法是一类流行的方法，其从训练集中返回选择性实例以解释测试样本的预测。将这些解释与预测联系起来的一种方式是提出以下反事实问题——当从训练集中移除解释时，测试样本的损失和预测如何变化？我们的论文针对 k-NN 回答了这个问题，k-NN 是基于实例的解释方法的天然候选者。我们首先通过经验证明，由神经网络最后一层诱导的表示空间是执行 k-NN 的最佳空间。利用该层，我们进行了实验并与影响函数（IFs）~\cite{koh2017understanding} 进行比较，后者试图回答类似问题。我们的评估确实表明在移除解释时损失和预测发生变化，但我们未发现 与损失或预测变化之间的趋势。我们发现 MNIST 与 CIFAR-10 的预测和损失具有显著稳定性。令人惊讶的是，我们未观察到 k-NN 与 IFs 在该问题行为上的显著差异。我们将此归因于 IFs 的训练集子采样。
引用
@article{arxiv.2109.06999,
title = {Behavior of k-NN as an Instance-Based Explanation Method},
author = {Chhavi Yadav and Kamalika Chaudhuri},
journal= {arXiv preprint arXiv:2109.06999},
year = {2021}
}