模型不一致但相关的噪声:基于正则化高斯混合的多视图子空间学习
机器学习
2018-11-08 v1 机器学习
摘要
多视图子空间学习(MSL)旨在为从多个视图获得的数据寻找低维子空间。与单视图情况不同,MSL 应同时考虑不同视图之间的共同知识与特定知识。为增强模型的鲁棒性,应充分考虑多视图数据中噪声的复杂性、不一致性与相似性。当前大多数 MSL 方法仅假设噪声为简单的高斯或拉普拉斯分布,而忽略了实际数据中每个视图的复杂噪声配置以及不同视图之间的噪声相关性。针对此问题,本文通过编码数据中的多视图共享与单视图特定噪声知识,提出了一种 MSL 方法。具体而言,我们将每个视图中的数据噪声建模为独立的高斯混合(MoG),其比传统高斯/拉普拉斯分布能拟合更广泛的复杂噪声类型。此外,我们通过一个公共 MoG 分量对所有单视图噪声进行正则化并将其作为一个整体联系起来,从而编码它们之间的共享噪声知识。该正则化分量在 MAP 框架下可表述为一个简洁的 KL 散度正则项,使我们的模型具有良好的可解释性,并可采用基于 EM 的简单求解策略。实验结果证实了本方法的优越性。
引用
@article{arxiv.1811.02934,
title = {Model Inconsistent but Correlated Noise: Multi-view Subspace Learning with Regularized Mixture of Gaussians},
author = {Hongwei Yong and Deyu Meng and Jinxing Li and Wangmeng Zuo and Lei Zhang},
journal= {arXiv preprint arXiv:1811.02934},
year = {2018}
}
备注
8 pages, 6 figures