基于 ETAP 的任务亲和力集成预测，用于高效多任务学习
摘要
多任务学习（MTL）中的一个基本问题是识别应该一起学习的 task 组。由于对大型 task 集的所有可能 task 组合进行训练在代价上不可接受，有效和高效 task 分组的一个关键组件是预测一组 task 是否受益于一起学习，这以单任务学习为基准衡量 per-task performance gain。本文提出了 ETAP（Ensemble Task Affinity Predictor），一个可扩展框架，将 principled 和 data-driven estimator 集成以预测 MTL performance gain。首先，我们考虑 MTL 模型中共享参数的 gradient-based 更新，衡量两个 task 之间的亲和力作为基于这些 task 的参数更新之间的 similarity。这个 linear estimator，我们称为 affinity score，自然扩展到估计 task 组内的亲和力。其次，为了细化这些估计，我们训练 predictor 对这些估计应用 non-linear transformation 并纠正 residual error，捕捉复杂和 non-linear task 关系。我们在 limited number of task groups 上训练这些 predictor，该组的每个 group 我们通过 multi-task learning 获取 ground-truth gain value。我们在 benchmark 数据集上演示，ETAP 改进了 MTL gain prediction 并 enables 更有效的 task 分组，在 diverse application domains 中超越 state-of-the-art baselines。
引用
@article{arxiv.2602.18591,
title = {Ensemble Prediction of Task Affinity for Efficient Multi-Task Learning},
author = {Afiya Ayman and Ayan Mukhopadhyay and Aron Laszka},
journal= {arXiv preprint arXiv:2602.18591},
year = {2026}
}