面向在线稀疏大数据分析的局部敏感哈希聚合非线性邻域矩阵分解
分布式、并行与集群计算
2021-11-24 v1
摘要
矩阵分解（MF）能够从高维数据中提取低秩特征并整合数据流形分布的信息，可考虑非线性邻域信息。因此，MF 在稀疏大数据（如协同过滤推荐系统、社交网络和服务质量）的低秩分析中受到广泛关注。然而，存在以下两个问题：1）构建图相似矩阵（GSM）的计算开销巨大；2）中间 GSM 的内存开销巨大。因此，基于 GSM 的 MF（如核 MF、图正则化 MF 等）无法直接应用于云和边缘平台上稀疏大数据的低秩分析。为解决稀疏大数据分析中这一棘手问题，我们提出局部敏感哈希（LSH）聚合 MF（LSH-MF），其可解决以下问题：1）所提出的 LSH-MF 概率投影策略可避免 GSM 的构建，且 LSH-MF 能满足稀疏大数据精确投影的需求。2）为使 LSH-MF 在 GPU 上实现细粒度并行化与在线学习，我们还提出了基于 CUDA 并行化的 CULSH-MF。实验结果表明，CULSH-MF 不仅能减少计算时间与内存开销，还能获得更高精度。与深度学习模型相比，CULSH-MF 不仅能节省训练时间，还能达到相同的精度性能。
引用
@article{arxiv.2111.11682,
title = {Locality Sensitive Hash Aggregated Nonlinear Neighbourhood Matrix Factorization for Online Sparse Big Data Analysis},
author = {Zixuan Li and Hao Li and Kenli Li and Fan Wu and Lydia Chen and Keqin Li},
journal= {arXiv preprint arXiv:2111.11682},
year = {2021}
}