用单一学习框架处理多任务
机器学习
2022-06-14 v1
摘要
深度多任务学习(DMTL)已在机器学习界被广泛研究并应用于众多真实场景。在序列学习问题中,由于任务关系会在时间维度上变化,寻找 DMTL 中的最优知识共享更具挑战性。本文提出一种灵活高效的框架——层次时间激活网络(HTAN),以同时探索神经网络层次(层次轴)的最优共享与时间变化的任务关系(时间轴)。HTAN 学习一组时间变化的激活函数以编码任务关系。进一步提出由调制 SPDNet 与对抗学习实现的函数正则化,以提升 DMTL 性能。在多个具挑战性应用上的综合实验表明,我们的 HTAN-SPD 框架在序列 DMTL 中显著优于 SOTA 方法。
引用
@article{arxiv.2206.06322,
title = {Tackling Multiple Tasks with One Single Learning Framework},
author = {Michael X. Yang},
journal= {arXiv preprint arXiv:2206.06322},
year = {2022}
}
备注
In submission to NeuroIPS. I changed my name from Xuewen Yang to Michael X. Yang. So I started using this name now