又一种监督主成分分析算法：监督线性质心编码器
机器学习
2023-06-08 v1 计算机视觉与模式识别
摘要
我们提出一种新的监督降维技术，称为监督线性质心编码器（SLCE），即非线性质心编码器（CE）[ghosh2022supervised] 的线性对应物。SLCE 通过使用线性变换将一类的样本映射到其类质心来工作。该变换是一种投影，其重建一个点使得该点与其对应类质心之间的距离（即质心重建损失）在原始空间中最小化。我们利用对称矩阵的特征分解推导出了闭式解。我们做了详细分析并给出了所提方法的一些关键数学性质。我们建立了特征值与质心重建损失之间的联系。与主成分分析（PCA）在原始空间中重建样本不同，SLCE 的变换利用一类的实例来重建相应的类质心。因此所提方法可被视为一种监督 PCA。实验结果显示了 SLCE 相对于其他监督方法的性能优势。
引用
@article{arxiv.2306.04622,
title = {Yet Another Algorithm for Supervised Principal Component Analysis: Supervised Linear Centroid-Encoder},
author = {Tomojit Ghosh and Michael Kirby},
journal= {arXiv preprint arXiv:2306.04622},
year = {2023}
}
备注
A novel algorithm for supervised PCA. 22 pages (including 2 reference pages), 8 figures and mathematical analysis of the proposed algorithm. The article is under review now