用可解释深度分类器解释跨域识别
计算机视觉与模式识别
2022-11-16 v1
摘要
深度学习近期的进展主要在内部表示上构建模型，其背后原理与决策对人类用户而言是不透明的。这种可解释性对于域适应尤为关键，其挑战要求开发更具适应性的跨域模型。本文中，我们提出一个问题：源域中每个样本对网络在目标域样本上预测的贡献有多大。为此，我们设计了一种新颖的可解释深度分类器（IDC），其学习目标样本的近邻源样本作为分类器做出决策的依据。技术上，IDC 为每个类别维护一个可微记忆库，记忆槽呈现键值对形式。键记录判别性源样本的特征，值存储相应属性，例如用于描述该类别的特征代表分数。IDC 计算 IDC 输出与源样本标签之间的损失以反向传播，调整代表分数并更新记忆库。在 Office-Home 与 VisDA-2017 数据集上的大量实验表明，我们的 IDC 带来了更具可解释性的模型，且几乎无精度损失，并有效校准分类以实现最优拒绝选项。更值得注意的是，当将 IDC 作为先验解释器时，利用 IDC 筛选的 0.1% 源训练数据，在无监督域适应上仍优于 VisDA-2017 上使用完整训练集的结果。
引用
@article{arxiv.2211.08249,
title = {Explaining Cross-Domain Recognition with Interpretable Deep Classifier},
author = {Yiheng Zhang and Ting Yao and Zhaofan Qiu and Tao Mei},
journal= {arXiv preprint arXiv:2211.08249},
year = {2022}
}