面向 Pinterest 广告点击率预测的掩码化低秩深层交叉网络
机器学习
2026-02-11 v1
摘要
深度学习推荐系统依赖特征交互模块来建模稀疏分类特征和稠密特征之间的复杂用户-物品关系。在大规模广告排序中，增加模型容量是提升预测性能和业务结果的有前景的路径，但生产部署的限制约束了延迟和 FLOPs。这形成了核心矛盾：我们既希望交互模块能够有效地随计算资源增加而扩展，又要在部署时保持计算效率。在本工作中，我们研究在固定部署预算下如何扩展特征交互模块。我们发现，尽管 DCNv2 和 MaskNet 在行业中广泛采用，但 naively 扩展它们在 Pinterest 广告排序系统中仅能获得快速递减的离线收益。为克服上述限制，我们提出 ML-DCN，一种将实例条件掩码集成到低秩交叉层中的交互模块，使其能够在保持高效计算的同时，对每个样本选择并放大关键交互方向。这一新型架构结合了 DCNv2 和 MaskNet 的优势，能够随计算资源增加而高效扩展，并实现最先进的性能。实验在大型内部 Pinterest 广告数据集上表明，ML-DCN 在匹配 FLOPs 的情况下，优于 DCNv2、MaskNet 以及最近的扩展导向替代方案，且随计算资源增加整体扩展更有利， exhibiting更强的 AUC-FLOPs 抗衰减特性。最后，线上 A/B 测试显示，其在关键广告指标（包括 CTR 和点击质量措施）方面均实现统计显著的改进，ML-DCN 已部署在生产系统中且保持中性的部署成本。
引用
@article{arxiv.2602.09194,
title = {ML-DCN: Masked Low-Rank Deep Crossing Network Towards Scalable Ads Click-through Rate Prediction at Pinterest},
author = {Jiacheng Li and Yixiong Meng and Yi wu and Yun Zhao and Sharare Zehtabian and Jiayin Jin and Degao Peng and Jinfeng Zhuang and Qifei Shen and Kungang Li},
journal= {arXiv preprint arXiv:2602.09194},
year = {2026}
}