基于特殊词元与轮次级注意力的层次化对话理解
计算与语言
2023-05-02 v1 人工智能
摘要
与标准文本相比，由于每一轮中动态且不可预期的语义变化，机器理解对话更具挑战性。为建模此类不一致的语义，我们提出了一种简单而有效的层次化对话理解模型HiDialog。具体而言，我们首先在对话中插入多个特殊词元（special tokens），并提出轮次级注意力（turn-level attention）以层次化地学习轮次嵌入。随后，利用异质图模块来优化所学嵌入。我们在多种对话理解任务上评估了我们的模型，包括对话关系抽取、对话情绪识别和对话行为分类。结果表明，我们简单的方法在上述三个任务上均达到了最先进（state-of-the-art, SOTA）性能。我们的所有源代码已公开于https://github.com/ShawX825/HiDialog。
引用
@article{arxiv.2305.00262,
title = {Hierarchical Dialogue Understanding with Special Tokens and Turn-level Attention},
author = {Xiao Liu and Jian Zhang and Heng Zhang and Fuzhao Xue and Yang You},
journal= {arXiv preprint arXiv:2305.00262},
year = {2023}
}