PromptMM:基于提示调优的多模态知识蒸馏推荐方法
信息检索
2024-03-12 v3
摘要
多媒体在线平台(如 Amazon、TikTok)通过将多媒体内容(如视觉、文本和音频)纳入其个性化推荐系统而受益匪浅。这些模态提供了直观的语义,有助于模态感知的用户偏好建模。然而,多模态推荐器仍面临两个关键挑战:i) 引入具有大量额外参数的多模态编码器会导致过拟合,尤其是当提取器(如 ViT、BERT)提供高维多模态特征时。ii) 侧边信息不可避免地引入不准确性和冗余,使模态交互依赖偏离真实的用户偏好。为解决这些问题,我们提出通过带有提示调优的多模态知识蒸馏 (PromptMM) 来简化和增强推荐器,从而实现自适应质量蒸馏。具体而言,PromptMM 通过将繁琐的教师模型中的用户 - 物品边关系和多模态节点内容蒸馏给学生模型来进行模型压缩,从而免除学生模型额外的特征降维参数。为了弥合多模态上下文与协作信号之间的语义差距以增强过拟合的教师模型,引入了软提示调优以执行学生任务自适应。此外,为了调整多媒体数据中不准确性的影响,开发了一种具有模态感知重加权机制的解耦多模态列表级蒸馏。真实世界数据上的实验证明了 PromptMM 优于现有技术。消融测试确认了关键组件的有效性。额外测试展示了其效率和效果。
引用
@article{arxiv.2402.17188,
title = {PromptMM: Multi-Modal Knowledge Distillation for Recommendation with Prompt-Tuning},
author = {Wei Wei and Jiabin Tang and Yangqin Jiang and Lianghao Xia and Chao Huang},
journal= {arXiv preprint arXiv:2402.17188},
year = {2024}
}
备注
WWW 2024