基于单次嵌入剪枝的端侧内容推荐：合作博弈视角

基于内容的推荐系统（CRSs）在塑造电子商务、在线广告和个性化推荐中的用户体验方面发挥着关键作用。然而，由于存在大量分类特征，CRS 模型中使用的嵌入表对现实世界的部署构成了重大的存储瓶颈，尤其是在资源受限的设备上。为了解决这个问题，人们提出了各种嵌入剪枝方法，但现有的大多数方法针对每个目标参数预算都需要昂贵的重训练步骤，从而导致巨大的计算开销。在现实中，这种计算开销是具有不同存储要求的现实应用（如联邦学习和流式设置）中的主要障碍。在本文中，我们提出了 Shapley 值引导的嵌入缩减（Shaver）作为应对方案。使用 Shaver，我们从合作博弈的视角看待该问题，并利用 Shapley 值量化每个嵌入参数的贡献，以促进基于贡献的参数剪枝。为了解决 Shapley 值固有的高计算开销，我们提出了一种高效且无偏的方法来估计 CRS 嵌入参数的 Shapley 值。此外，在剪枝阶段，我们提出了一个领域感知码本，以减轻传统置零处理中的信息损失。通过在三个真实世界数据集上的广泛实验，Shaver 在各种参数预算下展现出与轻量级推荐模型相媲美的性能。源代码可在 https://github.com/chenxing1999/shaver 获取。