准备就绪,快速响应:面向开放域对话的自适应知识编排的时间解耦框架
人工智能
2025-10-10 v1
摘要
延迟-质量权衡是开放域对话 AI 系统的基本约束,因为全面获取知识需要不可接受的响应延迟。当代方法提供两种不足的解决方案:轻量指令模型实现亚秒延迟但缺乏推理深度,而工具增强的 ReAct 智能体通过外部知识提升事实性,但因同步执行而阻塞交互。在检索过程中。因此提出 PMFR,通过异步知识编排框架从根本上解决矛盾。PMFR 采用三个协调组件:(1) 知识充分性评估器用于实时充分性评估,(2) 轻量响应生成器用于即时用户交互,(3) 异步知识细化智能体用于后台知识增强。该架构在保持连续对话流的同时,通过智能触发机制逐步丰富知识覆盖。TopiOCQA 上的评估结果表明,PMFR 超过粗暴扩展:PMFR 实现 95.3% 的延迟降低 (23.38s -> 1.09s),同时保持与重量同步基线相当的响应质量 (GEval-C: 0.613 vs. 0.620)。
引用
@article{arxiv.2510.08175,
title = {Prepared mind, fast response: A temporal decoupling framework for adaptive knowledge orchestration in open-domain dialogue},
author = {Jinling Gan and Churong Liang and Runnan Li},
journal= {arXiv preprint arXiv:2510.08175},
year = {2025}
}