低秩场加权因子分解机用于低延迟物品推荐

因子分解机（FM）变体在推荐系统中广泛应用，尤其是那些在严格的吞吐量和延迟要求下的系统，例如在线广告系统。FM 因其能够建模两两特征交互且对数据稀疏性具有鲁棒性，以及其计算图能够实现快速推理和训练而闻名。此外，当物品作为查询中每个传入用户的查询的一部分进行排序时，这些计算图还便于仅针对用户和上下文字段计算一次。因此，就推理成本而言，用户或上下文字段的数量实际上是没有上限的。更高级的 FM 变体，例如 FwFM，通过学习场级交互表示来提高准确性，但需要显式计算所有两两交互项。推理时的计算成本与包括用户、上下文和物品在内的场数的平方成正比。当场数较大时，这在严格延迟约束的系统中是不可接受的。为缓解这一局限，通常使用启发式剪枝低强度场交互以加速推理。本文提出了一种替代方案，用于 FwFM 中的剪枝启发式方法，采用对角线加上对称低秩分解。我们的技术允许推理成本仅与物品场的数量成正比。通过在真实数据集上的一系列实验，我们表明，激进的秩压缩在准确性和物品推荐速度方面均优于类似激进的剪枝。我们通过合成测试以及部署于大型在线广告系统的实践，实验性地证明了更快的推理。我们的实验结果可在 https://github.com/michaelviderman/pytorch-fm/tree/dev 获取。