TL-PCA：主成分分析的迁移学习
机器学习
2024-10-15 v1 机器学习
摘要
主成分分析（PCA）在目标数据样本极少时会受到显著限制。我们提出了一种PCA的迁移学习方法（TL-PCA），通过利用来自相关源任务的知识以及目标任务中稀缺的数据。我们的TL-PCA有两种版本：一种使用源任务的预训练PCA解，另一种使用源数据。我们将对目标子空间与源子空间接近性的惩罚项加入到PCA优化目标中，这种惩罚基于预训练的源模型或源数据。该优化通过特征分解求解，TL-PCA的特征向量（即主成分方向）的数量不受目标数据示例数量的限制，这是标准PCA性能受限的根本原因。因此，我们的结果表明，在降维表示测试数据的任务中，TL-PCA能够显著提升表征性能，无论学习的子空间维数是低于还是高于目标数据示例的数量。
引用
@article{arxiv.2410.10805,
title = {TL-PCA: Transfer Learning of Principal Component Analysis},
author = {Sharon Hendy and Yehuda Dar},
journal= {arXiv preprint arXiv:2410.10805},
year = {2024}
}