MoralDial：通过道德讨论训练与评估道德对话系统的框架
计算与语言
2023-05-29 v2
摘要
近年来，对话系统中的道德问题引起了研究的广泛关注。与用户价值观相一致的道德对话系统能够增强对话参与度并加深用户联系。在本文中，我们提出了一个名为 MoralDial 的框架，用于训练和评估道德对话系统。在我们的框架中，我们首先探索了道德的交流机制，并将表达的道德分解为三个部分，这指明了构建道德对话系统的路线图。在此基础上，我们设计了一种简单而有效的方法：在模拟的特定用户与对话系统之间构建道德讨论。所构建的讨论包括在对话交流中表达、解释、修正和推断道德观点，这使得对话模型能够以自然的方式很好地学习道德。此外，我们在该框架下提出了一种新的评估方法。我们通过判断讨论中对话回复与人类价值观之间的关系来评估道德的多个方面，其中特别考虑了道德的多面性。自动和人工实验表明，我们的框架在训练和评估道德对话系统方面具有广阔的前景。
引用
@article{arxiv.2212.10720,
title = {MoralDial: A Framework to Train and Evaluate Moral Dialogue Systems via Moral Discussions},
author = {Hao Sun and Zhexin Zhang and Fei Mi and Yasheng Wang and Wei Liu and Jianwei Cui and Bin Wang and Qun Liu and Minlie Huang},
journal= {arXiv preprint arXiv:2212.10720},
year = {2023}
}
备注
Accepted to ACL 2023