基于 PCA 的多任务学习:一种随机矩阵方法
机器学习
2021-11-02 v1 机器学习
统计理论
统计理论
摘要
本文提出并从理论上分析了流行的基于主成分分析(PCA)的监督学习方案 [barshan2011supervised,bair2006prediction] 的一种计算高效的多任务学习(MTL)扩展。分析表明:(i) 默认情况下学习可能由于遭受负迁移而剧烈失败,但 (ii) 对数据标签采取简单对策可避免负迁移并必然带来性能提升。在合成与真实数据基准上的支撑实验表明,所提方法取得了与最先进 MTL 方法相当的性能,但计算成本显著降低。
引用
@article{arxiv.2111.00924,
title = {PCA-based Multi Task Learning: a Random Matrix Approach},
author = {Malik Tiomoko and Romain Couillet and Frédéric Pascal},
journal= {arXiv preprint arXiv:2111.00924},
year = {2021}
}