基于聚类与局部集成的鲁棒多任务提升
机器学习
2026-02-17 v1
摘要
多任务学习（MTL）旨在通过在相关任务之间共享信息来提升预测性能，但常规方法在强行不相关或噪声任务共享表征时会产生负迁移。我们提出了基于聚类与局部集成的鲁棒多任务提升框架（RMB-CLE），该框架将基于误差的任务聚类与局部集成相结合。不同于以往假设固定聚类或手工构建相似度度量的方法，RMB-CLE 直接从跨任务误差中推导任务间相似性，这些误差可分解为功能失配与不可还原噪声，为防止负迁移提供了理论依据。任务通过层次聚类自适应分组，在每个聚类内部，局部集成可实现稳健的知识共享，同时保留任务特定模式。实验表明，RMB-CLE 在合成数据中恢复了真实聚类，并在多样化的真实基准和合成基准上持续超越多任务、单任务和基于抽取的集成方法。结果表明，RMB-CLE 不仅仅是聚类与提升的简单组合，而是一个通用且可扩展的框架，为稳健的多任务学习奠定了新的基础。
引用
@article{arxiv.2602.14231,
title = {Robust multi-task boosting using clustering and local ensembling},
author = {Seyedsaman Emami and Daniel Hernández-Lobato and Gonzalo Martínez-Muñoz},
journal= {arXiv preprint arXiv:2602.14231},
year = {2026}
}