DialGuide：利用开发者指南对齐对话模型行为
计算与语言
2023-05-23 v2
摘要
对话模型能够生成连贯且流畅的回复，但仍然难以控制，并可能产生缺乏吸引力或不安全的结果。这种不可预测性降低了用户信任，并可能阻碍模型在真实世界中的应用。为了解决这一问题，我们引入了 DialGuide，这是一个使用自然语言规则（即指南）来控制对话模型行为的新框架。这些指南提供了关于其适用语境以及回复中应包含内容的信息，使得模型能够生成更紧密对齐开发者期望与意图的回复。我们在开放域对话回复生成的三个任务上评估了 DialGuide：指南选择、回复生成和回复蕴含验证。我们的数据集包含跨越闲聊和安全两个领域的 10,737 个正例和 15,467 个负例对话“上下文-回复-指南”三元组。我们为这些任务提供了基线模型并对其性能进行了基准测试。我们还证明了 DialGuide 在对话安全领域是有效的，能够产生遵循开发者指南的安全且具有吸引力的回复。
引用
@article{arxiv.2212.10557,
title = {DialGuide: Aligning Dialogue Model Behavior with Developer Guidelines},
author = {Prakhar Gupta and Yang Liu and Di Jin and Behnam Hedayatnia and Spandana Gella and Sijia Liu and Patrick Lange and Julia Hirschberg and Dilek Hakkani-Tur},
journal= {arXiv preprint arXiv:2212.10557},
year = {2023}
}