矩阵补全的基本极限:利用层次相似性图
信息论
2021-09-14 v1 机器学习
math.IT
机器学习
摘要
我们研究了在推荐系统背景下利用层次相似性图作为侧信息的矩阵补全问题。在一个良好契合实际相关的社交图且低秩评分矩阵模型的层次随机块模型下,我们通过证明样本复杂度的紧上界和下界,刻画了观测矩阵条目数(即最优样本复杂度)的精确信息论极限。在可达性证明中,我们证明了在充分大的用户和物品数量下,若所有充分条件均满足,则最大似然估计器的误差概率趋于零。另一方面,逆(不可能性)证明基于先知辅助最大似然估计器。在每个必要条件之下,我们给出先知辅助估计器的例子,以证明在充分大的用户和物品数量下误差概率不趋于零。该结果的一个重要推论是,利用社交图的层次结构相对于仅识别不同群组而不借助其之间关系结构的方法,在样本复杂度上带来了显著增益。更具体地,我们分析了最优样本复杂度并识别出不同 regime(区域),其特性依赖于层次相似性图侧信息的质量度量。最后,我们给出仿真结果以佐证我们的理论发现,并表明所刻画的信息论极限可被渐近达到。
引用
@article{arxiv.2109.05408,
title = {On the Fundamental Limits of Matrix Completion: Leveraging Hierarchical Similarity Graphs},
author = {Junhyung Ahn and Adel Elmahdy and Soheil Mohajer and Changho Suh},
journal= {arXiv preprint arXiv:2109.05408},
year = {2021}
}
备注
The first two authors contributed equally to this work. A preliminary version of this work was presented at the 2020 Advances in Neural Information Processing Systems Conference (NeurIPS 2020)