张量的 Kullback-Leibler 主成分并非 NP-困难
信号处理
2017-11-22 v1 信息论
math.IT
最优化与控制
概率论
机器学习
摘要
我们研究非负张量的非负秩一逼近问题，并证明使广义 Kullback-Leibler 散度最小的全局最优解可被高效获得，即它并非 NP-困难。该结果适用于具有任意模数（包括二维，即矩阵）的任意非负张量。我们导出 KL 主成分的闭式表达式，其易于计算并具有直观的概率解释。对于更高秩的广义 KL 逼近，我们首次证明该问题等价于多项潜变量建模，并导出一种类似于期望最大化算法的迭代算法。在 Iris 数据集上，我们展示了所导出的结果如何帮助我们以 \emph{无监督} 方式学习该模型，并取得与有监督方法极为接近的性能。
引用
@article{arxiv.1711.07925,
title = {Kullback-Leibler Principal Component for Tensors is not NP-hard},
author = {Kejun Huang and Nicholas D. Sidiropoulos},
journal= {arXiv preprint arXiv:1711.07925},
year = {2017}
}
备注
Asilomar 2017