SYNDICOM：通过错误注入与自然语言反馈改进对话常识推理
计算与语言
2023-09-20 v1 人工智能
机器学习
摘要
常识推理是人类交流的关键方面。尽管由大语言模型驱动的对话 AI 近期取得进展，常识推理仍是一项具有挑战性的任务。本工作中，我们提出 SYNDICOM——一种改进对话响应生成中常识的方法。SYNDICOM 包含两个组件。第一个组件是由知识图谱创建并合成为自然语言而成的常识对话数据集。该数据集包含对对话上下文的有效与无效响应，以及针对无效响应的自然语言反馈（NLF）。第二个贡献是一种两步流程：训练模型预测无效响应的自然语言反馈（NLF），然后训练以预测 NLF、无效响应及对话为条件的响应生成模型。SYNDICOM 可扩展且不需要强化学习。在三项任务上的经验结果使用广泛指标进行评估。SYNDICOM 在 ROUGE1 上相对 ChatGPT 取得 53% 的提升，人类评估者在 57% 的情况下偏好 SYNDICOM 甚于 ChatGPT。我们将公开发布代码与完整数据集。
引用
@article{arxiv.2309.10015,
title = {SYNDICOM: Improving Conversational Commonsense with Error-Injection and Natural Language Feedback},
author = {Christopher Richardson and Anirudh Sundar and Larry Heck},
journal= {arXiv preprint arXiv:2309.10015},
year = {2023}
}
备注
Published at SigDial 2023, Number 129