用于深度神经网络高效适配的单向薄适配器
计算机视觉与模式识别
2022-03-24 v2 人工智能
摘要
本文提出一种新的适配器网络，以最小计算量将预训练深度神经网络适配到目标域。所提模型称为单向薄适配器（UDTA），通过提供补充主干网络的辅助特征，帮助分类器适配新数据。UDTA 以主干网络多层输出作为输入特征，但不向主干网络传递任何特征。因此，UDTA 可在不计算主干梯度的情况下学习，显著节省训练计算量。此外，由于 UDTA 在不修改主干的前提下学习目标任务，单个主干可通过分别仅学习 UDTA 来适配多个任务。在五个样本量较少的细粒度分类数据集上的实验中，UDTA 显著减少了反向传播所需的计算与训练时间，同时精度与常规适配器模型相当甚至更优。
引用
@article{arxiv.2203.10463,
title = {Unidirectional Thin Adapter for Efficient Adaptation of Deep Neural Networks},
author = {Han Gyel Sun and Hyunjae Ahn and HyunGyu Lee and Injung Kim},
journal= {arXiv preprint arXiv:2203.10463},
year = {2022}
}
备注
9 pages and 7 figures