1-bit矩阵补全：变分近似的PAC-贝叶斯分析
机器学习
2019-10-14 v1
摘要
由于协同过滤等具有挑战性的应用，矩阵补全问题在过去几年被广泛研究。不同方法依赖于对所处理矩阵的不同结构假设。此处我们关注具有二元元素的（可能）低秩矩阵的补全，即所谓的1-bit矩阵补全问题。我们的方法依赖于机器学习理论中的工具：经验风险最小化及其凸松弛。我们提出一种算法来计算伪后验的变分近似。得益于凸松弛，相应的极小问题是双凸的，因此该方法在实践中表现良好。我们还通过PAC-贝叶斯学习界研究了该变分近似的性能。与之前关注于用各种矩阵范数给出M的估计误差上界的工作相反，我们能够从该分析推导出算法预测误差的PAC界。我们主要聚焦于通过铰链损失(hinge loss)的凸松弛，对此我们给出了完整分析、完整的仿真研究以及在MovieLens数据集上的测试。然而，我们也讨论了处理逻辑损失(logistic loss)的变分近似。
引用
@article{arxiv.1604.04191,
title = {1-bit Matrix Completion: PAC-Bayesian Analysis of a Variational Approximation},
author = {Vincent Cottet and Pierre Alquier},
journal= {arXiv preprint arXiv:1604.04191},
year = {2019}
}