AutoMTL:用于自动化高效多任务学习的编程框架
机器学习
2022-10-03 v3 计算机视觉与模式识别
摘要
多任务学习(MTL)通过在任务间共享参数来联合学习一组任务。对于许多计算机视觉任务,它是一种在降低存储成本的同时提高任务精度的有前景的方法。MTL的有效采用面临两个主要挑战。第一个挑战是确定跨任务共享哪些参数,以优化内存效率和任务精度。第二个挑战是将MTL算法自动应用于任意CNN骨干网络,而无需耗时的手动重新实现和显著的领域专业知识。本文通过开发首个编程框架AutoMTL来应对这些挑战,该框架自动化了面向视觉任务的高效MTL模型开发。AutoMTL以任意骨干卷积神经网络(CNN)和一组待学习任务为输入,自动生成同时实现高精度和小内存占用的多任务模型。在三个流行MTL基准(CityScapes、NYUv2、Tiny-Taskonomy)上的实验证明了AutoMTL相对于最先进方法的优越性以及AutoMTL跨CNN的泛化能力。AutoMTL已开源,可在 https://github.com/zhanglijun95/AutoMTL 获取。
引用
@article{arxiv.2110.13076,
title = {AutoMTL: A Programming Framework for Automating Efficient Multi-Task Learning},
author = {Lijun Zhang and Xiao Liu and Hui Guan},
journal= {arXiv preprint arXiv:2110.13076},
year = {2022}
}
备注
Accepted by NeurIPS 2022