请教专家：利用语言模型改进面向目标对话模型中的策略推理
计算与语言
2023-05-30 v1 人工智能
人机交互
摘要
现有对话模型可能遇到训练数据中代表性不足的场景，从而生成不自然、不恰当或无助的回复。我们提出“请教专家(Ask an Expert)”框架，其中模型在训练时可访问一个可在每轮咨询的“专家”。建议通过与该专家的结构化对话获取，并优化模型以根据上下文与对话历史有选择地利用（或忽略）它。本工作中专家采取 LLM 的形式。我们在心理健康支持领域评估该框架，其中专家对话的结构由反映该领域从业者所授推理策略的预指定提示勾勒。利用“请教专家”的 Blenderbot 模型在所有专家规模下均显示出质量提升，包括那些参数少于对话模型本身的专家。我们的最佳模型相较基线提供约 的改进，在“engagingness”与“helpfulness”指标上接近人类水平分数。
引用
@article{arxiv.2305.17878,
title = {Ask an Expert: Leveraging Language Models to Improve Strategic Reasoning in Goal-Oriented Dialogue Models},
author = {Qiang Zhang and Jason Naradowsky and Yusuke Miyao},
journal= {arXiv preprint arXiv:2305.17878},
year = {2023}
}
备注
Accepted in Findings of the Association for Computational Linguistics: ACL 2023