Proto2Proto：你能像我一样识别这辆车吗？
计算机视觉与模式识别
2022-05-04 v2
摘要
原型方法近期因其通过原型获得的内在可解释性而备受关注。随着模型复用与蒸馏用例的增长，也需要研究可解释性从一个模型到另一个模型的迁移。我们提出Proto2Proto，一种通过知识蒸馏将原型部件网络的可解释性迁移至另一网络的新方法。我们的方法旨在为从教师模型迁移到更浅学生模型的“暗”知识增添可解释性。我们提出两种新损失：“全局解释”损失与“块-原型对应”损失，以促进此类迁移。全局解释损失迫使学生原型接近教师原型，块-原型对应损失使学生局部表示与教师局部表示相似。此外，我们提出三种新度量来评估学生接近教师的程度，作为我们设定下可解释性迁移的度量。我们在CUB-200-2011与Stanford Cars数据集上定性及定量地展示了方法的有效性。实验表明，所提方法在保持具竞争力性能的同时，确实实现了从教师到学生的可解释性迁移。
引用
@article{arxiv.2204.11830,
title = {Proto2Proto: Can you recognize the car, the way I do?},
author = {Monish Keswani and Sriranjani Ramakrishnan and Nishant Reddy and Vineeth N Balasubramanian},
journal= {arXiv preprint arXiv:2204.11830},
year = {2022}
}
备注
To appear in CVPR 2022. Code is available at https://github.com/archmaester/proto2proto