高效的设备端基于会话的推荐
信息检索
2023-01-09 v4
摘要
设备端基于会话的推荐系统因低能耗/资源消耗与隐私保护，同时在提供有前景的推荐性能方面而受到越来越多的关注。为使强大的神经会话推荐模型适配资源受限的移动设备，张量列分解及其变体已被广泛用于通过将嵌入表分解为更小的张量来缩减内存占用，在压缩推荐模型方面展现出巨大潜力。然而，这些模型压缩技术由于生成索引列表及一系列形成物品嵌入的张量乘法的复杂过程，显著增加了本地推理时间，由此得到的设备端推荐器无法提供实时响应与推荐。为提升在线推荐效率，我们提出学习基于组合编码的紧凑物品表示。具体而言，每个物品由包含若干码字的组合码表示，我们学习嵌入向量来表示每个码字而非每个物品。随后来自不同嵌入矩阵（即码本）的码字嵌入向量的组合构成物品嵌入。由于码本规模可极小，推荐器模型因此能够适配资源受限设备，同时可保存码本以实现快速本地推理。此外，为防止压缩导致的模型容量损失，我们提出一种双向自监督知识蒸馏框架。在两个基准数据集上的大量实验结果表明，与现有方法相比，所提设备端推荐器不仅以较大压缩比实现 8 倍推理加速，还展现出更优的推荐性能。
引用
@article{arxiv.2209.13422,
title = {Efficient On-Device Session-Based Recommendation},
author = {Xin Xia and Junliang Yu and Qinyong Wang and Chaoqun Yang and Quoc Viet Hung Nguyen and Hongzhi Yin},
journal= {arXiv preprint arXiv:2209.13422},
year = {2023}
}
备注
Extension of Our SIGIR'22 Paper (On-Device Next-Item Recommendation with Self-Supervised Knowledge Distillation), accepted by TOIS. arXiv admin note: text overlap with arXiv:2204.11091