用于响应式多轮在线对话的混合AI：新颖的动态路由与反馈适应
人工智能
2025-06-26 v2
摘要
检索增强生成（RAG）系统和由大语言模型（LLM）驱动的聊天机器人通过将生成能力与外部知识检索相结合，显著推进了对话式AI。尽管取得了成功，企业级部署仍面临关键挑战，包括多样化的用户查询、高延迟、幻觉，以及难以集成频繁更新的特定领域知识。本文引入了一种新颖的混合框架，将RAG与基于意图的预设回复相集成，利用预定义的高置信度回复提高效率，同时将复杂或模糊的查询动态路由到RAG流水线。我们的框架采用对话上下文管理器以确保多轮交互的连贯性，并引入反馈循环以细化意图、动态调整置信度阈值，并随着时间推移扩展回复覆盖范围。实验结果表明，所提出的框架实现了高准确率（95%）和低延迟（180ms）的平衡，在多样化的查询类型上优于RAG和基于意图的系统，使其成为企业对话式AI应用的可扩展且自适应的解决方案。
引用
@article{arxiv.2506.02097,
title = {Hybrid AI for Responsive Multi-Turn Online Conversations with Novel Dynamic Routing and Feedback Adaptation},
author = {Priyaranjan Pattnayak and Amit Agarwal and Hansa Meghwani and Hitesh Laxmichand Patel and Srikant Panda},
journal= {arXiv preprint arXiv:2506.02097},
year = {2025}
}
备注
Proceedings of the 4th International Workshop on Knowledge Augmented Methods for Natural Language Processing in NAACL 2025, pages 215 to 229, Albuquerque, New Mexico, USA. Association for Computational Linguistics