通过选择性注意力与多任务学习增强具备上下文感知 NLU 的客服聊天机器人
机器学习
2025-06-03 v1 人工智能
摘要
客服聊天机器人是旨在通过引导客户进入自动化工作流来解决客户查询的对话系统。该过程的一个关键环节是对客户意图进行分类。目前，大多数用于客户服务的意图分类模型仅利用客户查询来进行意图预测。这可能导致模型准确率较低，无法处理歧义查询。像“我没有收到我的包裹”这样的歧义查询可能表示订单延误，或者订单已送达但客户未能收到。解决这些场景中的每一种都需要执行截然不同的步骤序列。以正确的方式利用额外信息（例如客户的订单交付状态）有助于识别此类歧义查询的意图。在本文中，我们引入了一种上下文感知 NLU 模型，该模型结合了客户查询和来自客户订单状态的上下文信息来预测客户意图。我们使用了一个新颖的选择性注意力模块来提取相关的上下文特征。我们还提出了一种多任务学习范式，以有效利用训练数据中可用的不同标签类型。我们提出的方法——带有选择性注意力加权上下文的多任务学习上下文 NLU（MTL-CNLU-SAWC），与仅使用用户查询的基线模型相比，top 2 准确率得分提高了 4.8%，与结合查询和上下文的现有 SOTA 模型相比提高了 3.5%。我们已将该模型部署到沃尔玛客户服务领域的生产环境中。通过 MTL-CNLU-SAWC 进行的准确意图预测有助于更好地将客户引导至自动化工作流，从而显著减少向人工客服的升级，每年为公司节省近百万美元。
引用
@article{arxiv.2506.01781,
title = {Enhancing Customer Service Chatbots with Context-Aware NLU through Selective Attention and Multi-task Learning},
author = {Subhadip Nandi and Neeraj Agrawal and Anshika Singh and Priyanka Bhatt},
journal= {arXiv preprint arXiv:2506.01781},
year = {2025}
}