多任务学习的渐近行为:隐式正则化与双下降效应
机器学习
2026-03-06 v1 信息论
math.IT
摘要
多任务学习通过利用多个相关任务之间共享的常见信息来提高泛化误差。多任务学习的一个挑战是识别能够揭示不同但相关任务之间共享信息的公式。本文对流行的多任务公式进行精确的渐近分析,该公式与误指定型感知器学习模型相关联。本文的主要贡献是精确确定从多个相关任务的组合中获得益处的原因。具体而言,我们证明,将多个任务组合在一起在渐近上等价于具有额外正则化项的传统公式,这些正则化项有助于提高泛化性能。另一个贡献是对多个任务组合对泛化误差影响的实证研究。具体而言,我们实证表明,多个任务的组合可推迟双下降现象并在渐近上加以缓解。
引用
@article{arxiv.2603.05060,
title = {Asymptotic Behavior of Multi--Task Learning: Implicit Regularization and Double Descent Effects},
author = {Ayed M. Alrashdi and Oussama Dhifallah and Houssem Sifaou},
journal= {arXiv preprint arXiv:2603.05060},
year = {2026}
}