Synergizing In-context Learning with Hints for End-to-end Task-oriented Dialog Systems
计算与语言
2024-10-21 v3
摘要
End-to-End 任务导向对话系统通常需要大量训练数据才能表现良好。相比之下，基于大型语言模型(LLM)的任务导向对话系统由于其通过上下文示例学习任务的能力，即使在有限数据下也能表现出色。然而，这些模型缺乏与训练数据中响应风格的对齐，常生成综合性响应，使得用户难以快速获取信息。为此，我们提出了 SyncTOD，将 LLMs 与任务特定提示相结合，以提高有限数据环境下的对齐性。SyncTOD 使用小型辅助模型提供提示并选择上下文提示。以 ChatGPT 为例，SyncTOD 在有限数据环境下优于 LLM 基线和 SoTA 模型，同时在充足数据环境下保持竞争性能。
引用
@article{arxiv.2405.15585,
title = {Synergizing In-context Learning with Hints for End-to-end Task-oriented Dialog Systems},
author = {Vishal Vivek Saley and Rocktim Jyoti Das and Dinesh Raghu and Mausam},
journal= {arXiv preprint arXiv:2405.15585},
year = {2024}
}
备注
EMNLP2024 Camera-Ready Version