CausalDialogue:对话中话语级因果性的建模
计算与语言
2023-07-11 v2
摘要
尽管神经对话模型已被广泛采用,但其尚未展现出与人类自然聊天的能力。在本研究中,我们将用户话语视为因,生成的回复视为果,并认识到因的变化应产生不同的果。为了进一步探索这一概念,我们通过众包编制并扩展了一个名为 CausalDialogue 的新数据集。该数据集在有向无环图(DAG)结构中包含多个因果对。我们的分析表明,传统的损失函数难以有效整合 DAG 结构,因此我们提出了一种名为 Exponential Maximum Average Treatment Effect (ExMATE) 的因果增强方法,以在训练神经对话模型时增强话语级因果性的影响。为了评估在对话生成中考虑因果性的需求,我们在 CausalDialogue 数据集上使用不同的模型、推理和训练方法构建了一个综合基准。通过实验,我们发现像 ExMATE 这样的因果启发式损失可以提高传统损失函数的多样性和敏捷性,但在这一新数据集上要达到人类水平的质量仍有改进空间。
引用
@article{arxiv.2212.10515,
title = {CausalDialogue: Modeling Utterance-level Causality in Conversations},
author = {Yi-Lin Tuan and Alon Albalak and Wenda Xu and Michael Saxon and Connor Pryor and Lise Getoor and William Yang Wang},
journal= {arXiv preprint arXiv:2212.10515},
year = {2023}
}
备注
Accepted to ACL-Findings 2023