反思而非反射：基于推理的共同基础改善对话响应质量
计算与语言
2022-11-18 v1 人工智能
机器学习
摘要
人类交流依赖于共同基础 (CG)，即参与者共享的相互知识与信念，以产生连贯且有趣的对话。在本文中，我们证明当前的响应生成 (RG) 模型在对话中产生泛化且枯燥的响应，因为它们是反射式地行动，未能显式建模 CG，这既由于训练数据中缺乏 CG，也由于标准的 RG 训练流程。我们引入 Reflect，一个用显式 CG（具体化为近似共享知识与信念的推理）标注对话并征集 9k 条各遵循一个共同基础的多样化人工生成响应的数据集。使用 Reflect，我们展示了当前对话数据和 RG 模型的局限：当前数据中不到一半的响应被评为高质量（合理、具体且有趣），而用此数据训练的模型质量更低，同时大多数 Reflect 响应被判定为高质量。接下来，我们分析 CG 是否可通过使用 Reflect CG 引导 RG 模型来帮助模型产生更高质量的响应。令人惊讶的是，我们发现简单地提示 GPT3 “思考” CG 可生成多 30% 的优质响应，显示出将 CG 整合进 RG 过程的 promising 益处。
引用
@article{arxiv.2211.09267,
title = {Reflect, Not Reflex: Inference-Based Common Ground Improves Dialogue Response Quality},
author = {Pei Zhou and Hyundong Cho and Pegah Jandaghi and Dong-Ho Lee and Bill Yuchen Lin and Jay Pujara and Xiang Ren},
journal= {arXiv preprint arXiv:2211.09267},
year = {2022}
}
备注
Accepted at EMNLP-2022. 19 pages, 17 figures, 4 tables