多任务正则化网络的学习率
机器学习
2021-09-29 v3 泛函分析
摘要
面对人工智能与大数据时代，多任务学习是机器学习的一个重要趋势。尽管针对各类单任务机器学习算法的学习率估计已有大量研究，多任务学习方面的并行工作却很少。我们基于向量值再生核希尔伯特空间与矩阵值再生核的理论，对多任务学习的学习率估计进行了数学分析。对于典型的多任务正则化网络，获得了依赖于样本数据量与任务数两者的显式学习率。这表明多任务学习算法的泛化能力确实随任务数增加而受到影响。
引用
@article{arxiv.2104.00453,
title = {Learning Rates for Multi-task Regularization Networks},
author = {Jie Gui and Haizhang Zhang},
journal= {arXiv preprint arXiv:2104.00453},
year = {2021}
}