Trigger$^3$:通过自适应模型选择器优化查询纠错
计算与语言
2024-12-18 v1
摘要
在搜索场景中,由于拼写错误、语音错误或知识盲区导致的错误查询会阻碍用户体验。因此,查询纠错对搜索引擎至关重要。当前的纠错模型通常是在特定数据上训练的小型模型,在处理超出其训练范围的查询或需要上下文理解的查询时往往表现不佳。虽然大型语言模型(LLM)的出现提供了潜在的解决方案,但它们仍受限于其预训练数据和推理成本,特别是对于复杂查询,使其在查询纠错中并不总是有效的。为了解决这些问题,我们提出了 Trigger,这是一个大-小模型协作框架,集成了传统纠错模型和 LLM 进行查询纠错,能够根据查询以及传统纠错模型和 LLM 的纠错结果自适应地选择合适的纠错方法。Trigger 首先采用纠错触发器过滤掉正确的查询。然后不正确的查询由传统纠错模型进行纠错。如果失败,则激活 LLM 触发器调用 LLM 进行纠错。最后,对于任何模型都无法纠错的查询,回退触发器决定返回原始查询。大量实验表明,Trigger 在保持效率的同时优于纠错基线。
引用
@article{arxiv.2412.12701,
title = {Trigger$^3$: Refining Query Correction via Adaptive Model Selector},
author = {Kepu Zhang and Zhongxiang Sun and Xiao Zhang and Xiaoxue Zang and Kai Zheng and Yang Song and Jun Xu},
journal= {arXiv preprint arXiv:2412.12701},
year = {2024}
}