面向高效多任务架构的特征划分
机器学习
2019-08-14 v1 计算机视觉与模式识别
机器学习
摘要
多任务学习有望比训练独立模型使用更少的数据、参数和时间。我们提出了一种在考虑资源约束的情况下自动搜索多任务架构的方法。我们提出了一个紧凑表示不同参数共享策略的搜索空间。这提供了对多任务架构空间更有效的覆盖和采样。我们还提出了一种通过使用特征蒸馏来快速评估不同架构的方法。这些贡献共同使我们能够快速优化高效的多任务模型。我们在 Visual Decathlon 上进行了基准测试，证明我们可以自动搜索并识别在多任务资源需求之间有效权衡同时达到高水平最终性能的多任务架构。
引用
@article{arxiv.1908.04339,
title = {Feature Partitioning for Efficient Multi-Task Architectures},
author = {Alejandro Newell and Lu Jiang and Chong Wang and Li-Jia Li and Jia Deng},
journal= {arXiv preprint arXiv:1908.04339},
year = {2019}
}