概率成分分析的统一框架
机器学习
2014-11-17 v2 计算机视觉与模式识别
机器学习
摘要
我们提出了一个统一框架，将概率成分分析技术的构建简化为潜在的邻域选择，从而为创建新型成分分析模型以及构建确定性成分分析方法的概率等价形式提供了一个优雅且原则性的框架。在我们的框架下，统一了许多非常流行且经过深入研究的成分分析算法，如主成分分析（PCA）、线性判别分析（LDA）、保局投影（LPP）和慢特征分析（SFA），其中部分算法迄今为止在文献中尚无概率等价形式。我们首先定义了封装上述成分分析技术潜在连通性的马尔可夫随机场（MRFs）；随后，我们表明所有 PCA、LDA、LPP 和 SFA 产生的投影方向，也可由单个联合概率密度函数的最大似然（ML）解产生，该函数通过选择一个定义的 MRF 先验并利用简单的观测模型构成。此外，我们提出了利用所提联合概率密度函数的新型期望最大化（EM）算法，并通过可参数化的 MRF 乘积将所提方法推广至任意连通性。理论分析及在模拟数据和真实世界数据上的实验表明，所提框架通过推导出性能优于最先进（state-of-the-art）等价方法的新方法，证明了其有效性。
引用
@article{arxiv.1303.3240,
title = {A Unified Framework for Probabilistic Component Analysis},
author = {Mihalis A. Nicolaou and Stefanos Zafeiriou and Maja Pantic},
journal= {arXiv preprint arXiv:1303.3240},
year = {2014}
}