ESAinsTOD:面向通用任务导向对话建模的统一端到端模式感指令调优框架
计算与语言
2026-03-11 v1 人工智能
摘要
现有的模块化任务导向对话系统的端到端建模方法通常针对特定数据集进行定制,导致难以适应新的对话场景。本文提出ESAinsTOD(End-to-end Schema-Aware Instruction-tuning framework for general Task-Oriented Dialog modeling),一种统一的端到端模式感指令调优框架,用于通用任务导向对话建模。该框架引入了结构化方法,超越简单地对大型语言模型(LLM)进行微调,实现对各种对话任务流程和模式的灵活适应。具体而言,我们采用对LLM的全参数微调,并引入两种对齐机制,使系统既具指令感知能力,又具模式感知能力:(i)指令对齐,确保系统忠实地遵循任务指令,以完成来自异构任务导向对话数据集中各种任务流程;(ii)模式对齐,鼓励系统的预测遵循指定模式。此外,我们采用会话级端到端建模,使系统能够访问对话历史中先前执行任务流程的结果,以弥合指令调优范式与实际任务导向对话系统应用之间的差距。实验结果表明,尽管微调后的LLM作为强基准模型,本文的结构化方法提供了显著的额外优势。特别是,我们发现:(i)ESAinsTOD在端到端任务导向对话建模基准(CamRest676、In-Car 和 MultiWOZ)上以显著优势超越最先进模型;(ii)更重要的是,它在各种低资源设置下展现出优异的泛化能力,所提出的对齐机制显著提升零样本性能;(iii)我们的指令调优范式大幅提高了模型对数据噪声和级联错误的鲁棒性。
引用
@article{arxiv.2603.09691,
title = {ESAinsTOD: A Unified End-to-End Schema-Aware Instruction-Tuning Framework for Task-Oriented Dialog Modeling},
author = {Dechuan Teng and Chunlin Lu and Libo Qin and Wanxiang Che},
journal= {arXiv preprint arXiv:2603.09691},
year = {2026}
}
备注
Published at International Journal of Machine Learning and Cybernetics (IJMLC)