面向高效知识迁移的目标感知网络架构搜索与压缩
计算机视觉与模式识别
2024-01-25 v2
摘要
迁移学习使卷积神经网络（CNN）能够从源域获取知识并迁移至目标域，而在目标域中收集大规模标注样本既耗时又昂贵。通常，在将从一个任务学到的知识迁移到另一任务时，预训练 CNN 的较深层会在目标数据集上微调。然而，这些层最初是为源任务设计的，对目标任务可能过于参数化。因此，在目标数据集上微调这些层可能因网络复杂度过高而影响 CNN 的泛化能力。为解决该问题，我们提出一种称为 TASCNet 的两阶段框架，以实现高效知识迁移。在第一阶段，较深层的配置被自动学习并在目标数据集上微调。随后在第二阶段，从微调后的 CNN 中剪枝冗余滤波器，以降低目标任务下网络的复杂度，同时保持性能。该两阶段机制从假设空间中找到具有最优结构（卷积层中滤波器数量、全连接层中神经元数量等）的预训练 CNN 紧凑版本。所提方法的有效性在 CalTech-101、CalTech-256 和 Stanford Dogs 数据集上使用 VGG-16、ResNet-50 和 DenseNet-121 进行了评估。类似于计算机视觉任务，我们还在影评情感分析任务上进行了实验。所提出的 TASCNet 通过减少可训练参数与 FLOPs，降低了预训练 CNN 在目标任务上的计算复杂度，从而实现资源高效的知识迁移。源代码见：https://github.com/Debapriya-Tula/TASCNet。
引用
@article{arxiv.2205.05967,
title = {Target Aware Network Architecture Search and Compression for Efficient Knowledge Transfer},
author = {S. H. Shabbeer Basha and Debapriya Tula and Sravan Kumar Vinakota and Shiv Ram Dubey},
journal= {arXiv preprint arXiv:2205.05967},
year = {2024}
}
备注
This paper is accepted for publication in Multimedia Systems Journal