多集典型相关分析松弛方法的比较及其应用
机器学习
2013-02-06 v1
摘要
典型相关分析是一种用于寻找两组变量之间关系的统计技术。模式分析中的一个重要扩展是考虑多于两组的变量。该问题可以表述为二次约束二次规划(QCQP),通常称为多集典型相关分析(MCCA)。这是一个非凸问题,因此贪心算法会收敛到局部最优解,而无法保证全局最优性。在本文中,我们表明尽管该问题具有高度结构化特征,但寻找最优解是 NP-Hard 的。这促使我们将 QCQP 松弛为半定规划(SDP)。SDP 是凸的,可以相当高效地求解,并具有绝对和输出敏感的近似质量保证。除了理论保证外,我们还在各种合成数据和真实世界数据上对 QCQP 方法和 SDP 松弛进行了广泛比较。最后,我们提出了两个有用的扩展:引入核方法和计算多组典型向量。
引用
@article{arxiv.1302.0974,
title = {A Comparison of Relaxations of Multiset Cannonical Correlation Analysis and Applications},
author = {Jan Rupnik and Primoz Skraba and John Shawe-Taylor and Sabrina Guettes},
journal= {arXiv preprint arXiv:1302.0974},
year = {2013}
}