PI-NLF:一种用于非负隐因子分析的比例-积分方法
机器学习
2022-10-25 v2
摘要
高维不完全(HDI)矩阵频繁出现于各类与大数据相关的应用中,其体现了众多节点间固有的非负交互。非负隐因子(NLF)模型对 HDI 矩阵执行高效的表示学习,其学习过程主要依赖于单一的隐因子依赖、非负且乘性的更新(SLF-NMU)算法。然而,SLF-NMU 算法仅基于当前更新增量更新隐因子,未恰当考虑过往学习信息,导致收敛缓慢。受比例-积分(PI)控制器在各类应用中的显著成功启发,本文提出一种融入比例-积分的非负隐因子(PI-NLF)模型,包含双重思路:a) 遵循 PI 控制器原理,通过考虑过往更新增量建立增量精炼(IR)机制;以及 b) 设计基于 IR 的 SLF-NMU(ISN)算法以加速所得模型的收敛速率。在四个 HDI 数据集上的实证研究表明,PI-NLF 模型在 HDI 矩阵缺失数据的计算效率与估计精度上均优于最先进的模型。因此,本研究揭示了通过误差反馈控制器提升非负学习算法性能的可行性。
引用
@article{arxiv.2205.02591,
title = {PI-NLF: A Proportional-Integral Approach for Non-negative Latent Factor Analysis},
author = {Ye Yuan and Xin Luo},
journal= {arXiv preprint arXiv:2205.02591},
year = {2022}
}