基于LLM的无监督端到端任务导向对话：噪声通道的力量
计算与语言
2024-10-17 v2
摘要
训练任务导向对话系统通常需要轮次级别的注释来与其API交互：例如，对话状态和每一步采取的系统动作。这些注释生成成本高、容易出错，并且需要领域和注释专业知识。随着LLM的进步，我们假设未标记数据和模式定义足以构建一个可工作的任务导向对话系统，完全无监督。我们考虑一种新颖的无监督设置，仅包含(1)一个定义良好的API模式，(2)一组用户与代理之间的未标记对话。我们提出了一种创新方法，使用期望最大化(EM)通过噪声通道模型将轮次级注释推断为潜在变量，以构建端到端对话代理。在MultiWOZ基准上评估我们的方法，我们的方法将强GPT-3.5基线的对话成功率提高了一倍以上。
引用
@article{arxiv.2404.15219,
title = {Unsupervised End-to-End Task-Oriented Dialogue with LLMs: The Power of the Noisy Channel},
author = {Brendan King and Jeffrey Flanigan},
journal= {arXiv preprint arXiv:2404.15219},
year = {2024}
}
备注
To be presented at Empirical Methods in Natural Language Processing (EMNLP 2024). 18 Pages, 8 Figures