META 广告推荐的面向个人化 RAG 长期保留数据扩展方案
信息检索
2026-05-26 v1
摘要
对长历史数据建模面临长上下文窗口注意力稀释、系统效率和灾难性遗忘问题，其中朴素的线性扩展方法如 LastN 将难以应对。我们引入 Memento，一个面向个人化的检索增强框架，将历史用户互动视为文档语料库，将广告请求视为查询，通过最大边际相关性（MMR）检索相关互动，以平衡相似度与多样性。我们识别了两种互补应用：表示 Memento，通过检索历史嵌入进行特征增强；数据 Memento，通过检索过去的训练示例进行多遍训练。通过基础设施协同设计——时间分块、INT8 量化和异步调度——Memento 实现了对线性扩展的 5-10 倍资源效率。Memento 以亚 10ms 的延迟处理每日请求，实现点击-through 和转化预测中的 0.25-0.3% 归一化熵提升。在实际部署中，Memento 在 Facebook Feed 和 Reels 上实现 1% 的点击-through率提升，在转化预测上实现 1.2% 的转化率提升，将个人化扩展至 365 天以上的历史数据。
引用
@article{arxiv.2605.24051,
title = {Memento: Personalized RAG-Style Long-Retention Data Scaling for META Ads Recommendation},
author = {Xiaoyu Chen and Ruichen Wang and Jieming Di and Suofei Feng and Nafis Abrar and Lilly Kumari and Tony Tsui and Yilin Liu and Yu Lu and Sowmya Patapati and Junwei Xiong and Qiao Yang and Dorothy Sun and Yang Cao and Victor Chen and Pan Chen and Ramsundar Sundarkumar and Shivendra Pratap Singh and Arnold Overwijk and Ling Leng and Dinesh Ramasamy and Sri Reddy and Robert Malkin and Sandeep Pandey},
journal= {arXiv preprint arXiv:2605.24051},
year = {2026}
}