Spec-TOD: 面向高效任务型对话系统的专用指令微调LLM框架
计算与语言
2025-07-08 v1
摘要
任务型对话（TOD）系统促进了用户与机器之间的目标驱动交互。尽管深度学习的最新进展提升了性能，但TOD系统在标注数据有限的低资源场景中常常难以应对。为应对这一挑战，我们提出Spec-TOD，一种新颖的框架，旨在用有限的数据训练端到端的TOD系统。Spec-TOD引入了两项主要创新：（i）一种新颖的专用端到端TOD框架，为指令微调的大语言模型（LLM）整合了显式的任务指令，以及（ii）一种高效的训练策略，利用轻量级、专用的LLM以极少的监督实现强性能。在广泛使用的TOD基准MultiWOZ数据集上的实验表明，Spec-TOD在显著减少标注数据需求的同时取得了有竞争力的结果。这些发现凸显了所提框架在低资源环境下推进高效TOD系统的潜力。
引用
@article{arxiv.2507.04841,
title = {Spec-TOD: A Specialized Instruction-Tuned LLM Framework for Efficient Task-Oriented Dialogue Systems},
author = {Quang-Vinh Nguyen and Quang-Chieu Nguyen and Hoang Pham and Khac-Hoai Nam Bui},
journal= {arXiv preprint arXiv:2507.04841},
year = {2025}
}
备注
Accepted at SIGdial 2025