基于 BERT 的情感动态建模

情感动态建模是会话中情感识别的一项重要任务。它旨在构建共情对话系统时预测会话情感。现有研究主要基于循环神经网络（RNNs）开发模型。它们无法受益于近期发展的预训练策略，以在会话中获得更好的词元表示学习。更严重的是，仅通过在 RNNs 之上组装特征，难以区分对话者间的依赖关系以及对话者间的情感影响。在本文中，我们开发了一系列基于 BERT 的模型，以专门捕获会话情感动态的对话者间与对话者内依赖。具体而言，我们首先以 BERT 替代 RNNs 来丰富词元表示。然后，应用扁平结构 BERT（F-BERT）直接连接会话中的话语，并采用层次结构 BERT（H-BERT）在连接话语时区分对话者。更重要的是，提出一种时空结构 BERT，即 ST-BERT，以进一步确定对话者间的情感影响。最后，我们在两个流行的会话中情感识别基准数据集上进行了大量实验，并证明我们提出的模型分别比最先进基线高出约 5% 和 10% 的提升。