学习为动态早退网络中的样本赋权
计算机视觉与模式识别
2022-09-20 v1
摘要
早退是提高深度网络推理效率的有效范式。通过构建具有不同资源需求（出口）的分类器，此类网络允许简单样本在较早出口输出，从而无需执行更深层。现有工作主要关注多出口网络的架构设计，而此类模型的训练策略在很大程度上未被探索。当前最先进的模型在训练时将全部样本同等对待。然而，测试期间的早退行为被忽略，导致训练与测试之间的差距。本文提出通过样本加权来弥合这一差距。直观上，在推理中通常较早退出的简单样本，应为训练早期分类器贡献更多。而困难样本（大多从较深层退出）的训练则应被后期分类器所强调。我们提出采用权重预测网络为每个出口处不同训练样本的损失赋权。该权重预测网络与骨干模型在元学习框架下以新颖优化目标联合优化。通过将推理阶段的自适应行为引入训练阶段，我们表明所提出的加权机制一致地改善了分类准确率与推理效率之间的权衡。代码见 https://github.com/LeapLabTHU/L2W-DEN。
引用
@article{arxiv.2209.08310,
title = {Learning to Weight Samples for Dynamic Early-exiting Networks},
author = {Yizeng Han and Yifan Pu and Zihang Lai and Chaofei Wang and Shiji Song and Junfen Cao and Wenhui Huang and Chao Deng and Gao Huang},
journal= {arXiv preprint arXiv:2209.08310},
year = {2022}
}
备注
ECCV 2022