基于生成式语言建模的可微分检索增强用于电商查询意图分类
信息检索
2023-09-18 v3 计算与语言
摘要
检索增强通过知识检索器与外部语料库增强下游模型，而非仅增加模型参数量，已成功应用于文本分类、问答等许多自然语言处理（NLP）任务。然而，现有方法由于检索器与下游模型间不可微分，通常将二者分离或异步训练，导致性能不如端到端联合训练。本文提出基于生成式语言建模的可微分检索增强（Dragan），通过新颖的可微分重构解决该问题。我们在电商搜索中一项具有挑战性的 NLP 任务——查询意图分类上验证了方法的有效性。实验结果与消融研究均表明，所提方法在离线评估与在线 A/B 测试中显著且合理地优于最优基线。
引用
@article{arxiv.2308.09308,
title = {Differentiable Retrieval Augmentation via Generative Language Modeling for E-commerce Query Intent Classification},
author = {Chenyu Zhao and Yunjiang Jiang and Yiming Qiu and Han Zhang and Wen-Yun Yang},
journal= {arXiv preprint arXiv:2308.09308},
year = {2023}
}
备注
5 pages, 2 figures; accepted by CIKM2023