用于动态推理的多出口视觉 Transformer
计算机视觉与模式识别
2021-10-25 v3
摘要
深度神经网络可通过在部分中间层后插入早退分支而转换为多出口架构。这使得其推理过程变为动态的，对于具有严格延迟要求但通信与计算资源时变的、时间关键的物联网应用颇有助益。特别是在边缘计算系统与物联网网络中，确切的计算时间预算可变且事先未知。Vision Transformer 是近期提出的架构，此后在计算机视觉诸多领域得到广泛应用。本工作中，我们提出七种不同的早退分支架构，可用于 Vision Transformer 主干中的动态推理。通过涉及分类与回归问题的广泛实验，我们表明所提每种架构均能在精度与速度权衡中发挥作用。
引用
@article{arxiv.2106.15183,
title = {Multi-Exit Vision Transformer for Dynamic Inference},
author = {Arian Bakhtiarnia and Qi Zhang and Alexandros Iosifidis},
journal= {arXiv preprint arXiv:2106.15183},
year = {2021}
}
备注
Accepted by the 2021 British Machine Vision Conference (BMVC 2021)