基于归因图深度模型的可迁移性
计算机视觉与模式识别
2019-10-15 v2
摘要
探索异构任务之间的可迁移性揭示了它们内在的内在联系，并因此使得知识能够从一项任务转移到另一项任务，从而减少后者的训练工作量。在本文中，我们提出了一种极其简单却非常有效的深度网络可迁移性估计方法，特别是针对处理视觉任务的网络。与依赖于大量标注作为监督因而计算繁琐的taskonomy开创性工作不同，所提方法不需要人类标注，并且对网络架构没有约束。具体而言，这是通过将深度网络投影到一个模型空间中实现的，其中每个网络被视为一个点，两个点之间的距离由它们生成的归因图的偏差来度量。所提方法比taskonomy快几个数量级，同时保留了与taskonomy获得的任务级拓扑结构高度相似的结构。代码可在 https://github.com/zju-vipa/TransferbilityFromAttributionMaps 获取。
引用
@article{arxiv.1909.11902,
title = {Deep Model Transferability from Attribution Maps},
author = {Jie Song and Yixin Chen and Xinchao Wang and Chengchao Shen and Mingli Song},
journal= {arXiv preprint arXiv:1909.11902},
year = {2019}
}
备注
Accepted by NeurIPS 2019