中文

CoAction:基于跨任务相关性的 Pareto 集学习

机器学习 2026-05-05 v1

摘要

Pareto 集学习(PSL)是一种在多目标优化中训练神经网络将偏好向量映射到 Pareto 最优解的新兴范式。然而,现有的 PSL 方法主要关注一次解决单个多目标优化问题。这种局限性不仅在多目标多任务优化场景中增加了计算成本(需要为每个任务分别训练一个模型),也无法利用跨任务之间的相关性。为此,我们提出了一种基于跨任务相关性的 Pareto 集学习(CoAction)框架,该框架利用 task-aware transformer 来同时处理多个任务。具体而言,通过为各个任务分配 task-specific embedding 向量,模型有效地区分了各个任务,同时促进了它们之间的知识共享。我们将 Transformer 编码器作为 backbone 架构,以利用其自注意力机制捕捉复杂的任务依赖关系。该方法在覆盖基准问题和真实应用的全面多任务测试套件上进行评估,结果在 Hypervolume、Range 和 Sparsity 等指标上均显示出有效性和竞争性能。

关键词

引用

@article{arxiv.2605.01712,
  title  = {CoAction: Cross-task Correlation-aware Pareto Set Learning},
  author = {Xinyue Chen and Yingxuan Liang and Yiqin Huang and Chikai Shang and Hai-Lin Liu and Fangqing Gu},
  journal= {arXiv preprint arXiv:2605.01712},
  year   = {2026}
}

备注

Accepted by ICIC 2026 (Oral)