用于任务包含估计的统计亏缺
机器学习
2025-11-18 v3
摘要
任务是机器学习的核心，因为它们是评估当前模型能力的最自然对象。目前的趋势是构建能够处理任何任务的通用模型。尽管迁移学习和多任务学习试图利用底层的任务空间，但目前没有成熟的工具来研究其结构。本研究提出了一个理论基础扎实的设置，以定义任务的概念，并从统计亏缺的角度计算两个任务之间的包含。我们提出了一个可处理的代理，即信息充分性，用于估计任务之间的包含程度，在合成数据上展示了其合理性，并使用它经验性地重建了经典的 NLP 流水线。
引用
@article{arxiv.2503.05491,
title = {Statistical Deficiency for Task Inclusion Estimation},
author = {Loïc Fosse and Frédéric Béchet and Benoît Favre and Géraldine Damnati and Gwénolé Lecorvé and Maxime Darrin and Philippe Formont and Pablo Piantanida},
journal= {arXiv preprint arXiv:2503.05491},
year = {2025}
}
备注
34 pages