“问我任何事”：Comcast 如何使用 LLM 实时辅助客服坐席
计算与语言
2024-05-07 v2
摘要
客户服务是公司与客户交互的途径。它对整体客户满意度有重大贡献。然而，高质量的服务可能会变得昂贵，这促使公司尽可能使其具有成本效益，并促使大多数公司利用 AI 驱动的助手或“聊天机器人”。另一方面，客户仍然渴望人与人之间的交互，特别是在涉及争议和账单支付等敏感话题的复杂场景下。这提高了对客户服务坐席的要求。他们需要准确理解客户的问题或疑虑，确定一个既可接受又可行的解决方案（且符合公司政策），同时还要处理多个对话。在这项工作中，我们引入了“问我任何事” (AMA) 作为面向坐席的客户服务界面的附加功能。AMA 允许坐席在处理客户对话时按需向大型语言模型 (LLM) 提问——LLM 实时提供准确的回复，减少了坐席所需的上下文切换次数。在我们的内部实验中，我们发现使用 AMA 的坐席与使用传统搜索体验的坐席相比，在包含搜索的对话中每轮对话花费的时间减少了约 10%，这相当于每年节省数百万美元。使用 AMA 功能的坐席在近 80% 的情况下提供了积极反馈，证明了其作为客户关怀 AI 辅助功能的实用性。
引用
@article{arxiv.2405.00801,
title = {"Ask Me Anything": How Comcast Uses LLMs to Assist Agents in Real Time},
author = {Scott Rome and Tianwen Chen and Raphael Tang and Luwei Zhou and Ferhan Ture},
journal= {arXiv preprint arXiv:2405.00801},
year = {2024}
}