超越 RAG：实时对话中的问题识别与答案生成
计算与语言
2024-10-15 v1 人工智能
摘要
在客户服务中心，人类坐席因需手动解释查询并检索相关知识库（KB）文章而常常面临显著的平均处理时长（AHT）。虽然使用大型语言模型（LLM）的检索增强生成（RAG）系统已在行业广泛采用以协助完成此类任务，但 RAG 在实时对话中面临挑战，如查询表述不准确以及对常见问题（FAQ）的冗余检索。为克服这些限制，我们提出了一个决策支持系统，首先在实时识别客户问题。如果查询与 FAQ 匹配，系统直接从 FAQ 数据库中检索答案；否则，通过 RAG 生成答案。我们的做法减少了对手动查询的依赖，使代理人能在 2 秒内收到响应。该系统已部署于 Minerva CQ 提供的 AI 人机协作解决方案中，提高了效率，降低了 AHT，降低了运营成本。我们还引入了一个自动 LLM 代理工作流程，用于在无预定义 FAQ 时从历史记录中识别 FAQ。
引用
@article{arxiv.2410.10136,
title = {Beyond-RAG: Question Identification and Answer Generation in Real-Time Conversations},
author = {Garima Agrawal and Sashank Gummuluri and Cosimo Spera},
journal= {arXiv preprint arXiv:2410.10136},
year = {2024}
}