变分自编码器推荐器中协作学习的机制
机器学习
2026-02-17 v2 人工智能
摘要
变分自编码器（Variational Autoencoders, VAEs）是矩阵分解推荐的强有力替代方案。VAE-based协作过滤（CF）的常见技术是对用户交互向量应用二进制输入掩码，这一技术虽能提升性能，但在理论上仍鲜有探讨。本文分析了VAE-based CF中协作如何产生，证明其由\emph{潜在接近性}主导：我们推导出一个潜在共享半径，以指示对一个用户的SGD更新在严格减少另一个用户的损失时的条件。随着潜在Wasserstein距离的增加，影响力会衰减。我们进一步研究了诱导的几何结构：在干净的输入下，VAE-based CF主要利用\emph{局部}协作，即在输入相似的用户之间，而在利用\emph{全局}协作，即在远距离但相关的用户之间时 underutilizes。我们比较两种鼓励\emph{全局}混合的机制，并描述其权衡：\ding{172} -KL正则化直接紧缩信息瓶颈，促进后验重叠，但如果过大则可能导致表征塌陷；\ding{173} 输入掩码诱导随机\emph{几何}收缩和扩张，这可以将远距离用户带到相同的潜在社区中，但也会引入社区漂移。为了在保持用户身份的同时实现全局一致性，我们提出了一个锚定正则化器，将用户后验与项目嵌入对齐，稳定掩码下的用户，促进跨相关项目的信号共享。我们在Netflix、MovieLens-20M和Million Song数据集上验证了我们的分析。我们还在亚马逊流媒体平台上成功部署了我们提出的算法，跟随一次成功的在线实验。
引用
@article{arxiv.2511.06781,
title = {On the Mechanisms of Collaborative Learning in VAE Recommenders},
author = {Tung-Long Vuong and Julien Monteil and Hien Dang and Volodymyr Vaskovych and Trung Le and Vu Nguyen},
journal= {arXiv preprint arXiv:2511.06781},
year = {2026}
}