当更多数据无济于事时:多任务学习中适应的极限
机器学习
2026-01-29 v1
摘要
多任务学习及相关框架在现代应用中取得了巨大成功。在多任务学习问题中,我们得到一组来自相关源任务的异构数据集,并希望提升性能,超越单独解决每个任务所能达到的水平。arXiv:2006.15785的近期工作表明,在无法访问分布信息的情况下,只要每个任务的样本量有界,任何仅基于聚合样本的算法都无法保证最优风险。在本文中,我们专注于理解多任务学习的统计极限。我们超越了arXiv:2006.15785中的“没有免费午餐”定理,建立了一个更强的适应不可能性结果,该结果对每个任务任意大的样本量都成立。这一改进传达了一个重要信息:多任务学习的困难无法通过每个任务拥有充足的数据来克服。我们还讨论了最优适应性的概念,这可能对未来研究具有意义。
引用
@article{arxiv.2601.20774,
title = {When More Data Doesn't Help: Limits of Adaptation in Multitask Learning},
author = {Steve Hanneke and Mingyue Xu},
journal= {arXiv preprint arXiv:2601.20774},
year = {2026}
}