面向非负隐因子分析的一种动态线性偏置引入方案
人工智能
2023-09-20 v1 机器学习
摘要
高维不完全（HDI）数据普遍存在于社交网络服务等大数据相关应用中，涉及众多节点间有限的相互作用。从HDI数据中获取知识因其中嵌入的节点行为等丰富模式而成为数据科学领域的重要问题，其基础任务是进行HDI数据表示学习。非负隐因子分析（NLFA）模型已被证明在解决该问题上具有优越性，其中线性偏置引入（LBI）方案对呈现训练过冲与波动以及防止模型过早收敛十分重要。然而，现有LBI方案均为统计型，其线性偏置固定，这显著限制了所得NLFA模型的可扩展性，并导致对HDI数据的表示学习能力损失。受上述发现启发，本文创新性地提出动态线性偏置引入（DLBI）方案。它首先将线性偏置向量扩展为矩阵，然后构建二值权重矩阵以切换线性偏置的激活/非激活状态。权重矩阵的每个条目随线性偏置值变化在二值状态间动态切换，从而为NLFA模型建立动态线性偏置。基于三个来自实际应用的HDI数据集的实证研究表明，所提出的基于DLBI的NLFA模型比最先进模型获得更高的表示精度，且计算效率极具竞争力。
引用
@article{arxiv.2309.10618,
title = {A Dynamic Linear Bias Incorporation Scheme for Nonnegative Latent Factor Analysis},
author = {Yurong Zhong and Zhe Xie and Weiling Li and Xin Luo},
journal= {arXiv preprint arXiv:2309.10618},
year = {2023}
}
备注
arXiv admin note: substantial text overlap with arXiv:2306.03911, arXiv:2302.12122, arXiv:2306.03647