HCMRM：用于搜索广告的高一致性多模态相关性模型

搜索广告是商家触达短视频平台上目标用户的 essential 手段。通过相关性匹配和出价排序机制，显示与用户搜索意图相匹配的短视频广告。本文致力于提高查询到视频的相关性匹配，以增强广告系统中排序的效果。最近的视觉语言预训练模型在 various 多模态任务中展现出前景，但其对下游查询-视频相关性任务的贡献有限，因为视觉信号与文本之间的对齐方式不同于查询、视觉信号和视频文本三元组的建模。此外，我们之前的相关性模型提供的排序能力有限，主要由于二元交叉熵微调目标与排序目标之间的差异。为解决这些限制，我们设计了高一致性多模态相关性模型（HCMRM）。它利用一种简单而有效的方法来增强预训练任务与相关性任务之间的一致性。具体而言，在预训练阶段，除了对视觉信号和视频文本进行对齐外，还从视频文本中提取多个关键词作为伪查询，用于执行三元相关性建模。在微调阶段，我们引入分层Softmax损失，使模型能够在最大化正负样本区分度的同时，学习标签之间的排序。这促进了后续排序阶段中相关性和出价的融合排序。该方法已在快手搜索广告系统中部署超过一年，导致不相关广告比例降低6.1%，广告收入增加1.4%。