广阔视野，快速行动：基于多视角链式思考的潜在推理蒸馏用于电商相关性
信息检索
2026-01-30 v1 人工智能
计算与语言
摘要
有效的相关性建模对于电商搜索至关重要，因为它将搜索结果与用户意图对齐，并提升用户体验。最近的研究利用大型语言模型（LLM）来解决传统相关性模型的局限性，尤其是针对长尾和模糊查询。通过引入链式思考（CoT）推理，这些方法通过多步骤推理提高了准确性和可解释性。然而，仍存在两个关键局限：（1）大多数现有方法依赖单一视角的 CoT 推理，无法捕捉电商相关性的多面性（例如用户意图 vs. 属性级匹配 vs. 业务特定规则）；（2）虽然 CoT 增强的 LLM 提供丰富的推理能力，但其高推理延迟使得知识蒸馏以实现实时部署成为必要，而当前的蒸馏方法在推理时会丢弃 CoT 论证结构，将其作为暂时的辅助信号，放弃了其推理效用。为解决这些挑战，我们提出了一种更好地在优化管道中充分利用 CoT 语义的新框架。具体而言，教师模型利用多视角链式思考（MPCoT）生成多样化的论证，并结合监督微调（SFT）和直接偏好优化（DPO）构建更稳健的推理器。对于蒸馏，我们引入潜在推理知识蒸馏（LRKD），赋予学生模型轻量级的推理提取器，使其能够高效且低延迟地内化 LLM 复杂推理能力。在电商搜索广告平台上进行的离线实验和在线 A/B 测试表明，我们的方法在离线实验中取得显著提升，显著改善了商业性能和用户体验。
引用
@article{arxiv.2601.21611,
title = {Thinking Broad, Acting Fast: Latent Reasoning Distillation from Multi-Perspective Chain-of-Thought for E-Commerce Relevance},
author = {Baopu Qiu and Hao Chen and Yuanrong Wu and Changtong Zan and Chao Wei and Weiru Zhang and Xiaoyi Zeng},
journal= {arXiv preprint arXiv:2601.21611},
year = {2026}
}
备注
12 pages, 6 figures, Accepted by WWW2026 industry track