Aux-NAS：以可忽略的额外推理开销利用辅助标签
机器学习
2024-05-10 v1 人工智能
计算机视觉与模式识别
机器学习
摘要
我们旨在利用来自独立（辅助）任务的额外辅助标签来提升我们所关注的主任务性能，同时保持主任务的单任务推理开销。虽然大多数现有的辅助学习方法是基于优化的，依赖于损失权重/梯度操作，但我们的方法是基于架构的，为主任务和辅助任务采用灵活的非对称结构，从而在训练和推理时产生不同的网络。具体而言，从两个单任务网络/分支（每个代表一个任务）出发，我们提出了一种具有演化网络的新方法，其中在收敛后仅存在从主任务到辅助任务的链接作为跨任务连接。这些连接可以在主任务推理期间移除，从而产生单任务推理开销。我们通过将此构建为神经架构搜索（NAS）问题来实现这一点，在搜索空间中初始化双向连接，并引导 NAS 优化收敛到仅具有单向主任务到辅助任务连接的架构。此外，我们的方法可以与基于优化的辅助学习方法相结合。在 NYU v2、CityScapes 和 Taskonomy 数据集上使用 VGG、ResNet 和 ViT 主干网络对六个任务进行的广泛实验验证了其优异的性能。代码可在 https://github.com/ethanygao/Aux-NAS 获取。
引用
@article{arxiv.2405.05695,
title = {Aux-NAS: Exploiting Auxiliary Labels with Negligibly Extra Inference Cost},
author = {Yuan Gao and Weizhong Zhang and Wenhan Luo and Lin Ma and Jin-Gang Yu and Gui-Song Xia and Jiayi Ma},
journal= {arXiv preprint arXiv:2405.05695},
year = {2024}
}
备注
Accepted to ICLR 2024