InstructDial：通过指令微调提升对话中的零样本与少样本泛化能力
计算与语言
2022-10-27 v2
摘要
指令微调（instruction tuning）是自然语言处理（NLP）中一种新兴范式，其中利用自然语言指令配合语言模型，以在未见任务上诱导零样本性能。已有研究表明，指令能够使大型和小型语言模型在未见任务和数据集上获得良好性能。对话是一个尤其值得探索指令微调的领域，因为对话系统执行多种与语言相关的任务（例如自然语言理解与生成、特定领域交互），但指令微调尚未被系统地探索用于对话相关任务。我们提出 InstructDial，一个面向对话的指令微调框架，其由从 59 个公开可用对话数据集创建的、统一文本到文本格式的 48 种多样对话任务仓库组成。接下来，我们探索在 InstructDial 上调优的模型跨多样对话任务的泛化能力。我们的分析表明，InstructDial 能够在对话评估和意图检测等未见数据集与任务上实现良好的零样本性能，并在少样本设定下获得更优性能。为确保模型遵循指令，我们引入了新颖的元任务（meta-tasks）。我们基于所提框架训练的模型在多个对话任务上建立了零样本与少样本性能的基准。
引用
@article{arxiv.2205.12673,
title = {InstructDial: Improving Zero and Few-shot Generalization in Dialogue through Instruction Tuning},
author = {Prakhar Gupta and Cathy Jiao and Yi-Ting Yeh and Shikib Mehri and Maxine Eskenazi and Jeffrey P. Bigham},
journal= {arXiv preprint arXiv:2205.12673},
year = {2022}
}
备注
EMNLP 2022