用于对话情绪识别的模糊指纹 Transformer 语言模型
计算与语言
2023-09-11 v1 人工智能
摘要
模糊指纹已成功用作可解释文本分类技术，但像大多数其他技术一样，在性能上已被 BERT 或 RoBERTa 等大型预训练语言模型大幅超越。这些模型在若干自然语言处理任务（即对话情绪识别（ERC））中给出最先进结果，但缺乏可解释性与可说明性。在本文中，我们提出结合两种方法来执行 ERC，以作为获得更简洁且更具可解释性的基于大型语言模型分类器的手段。我们提出将话语及其先前对话轮次输入预训练 RoBERTa，获得上下文嵌入话语表示，随后供给一个适配的模糊指纹分类模块。我们在广泛使用的 DailyDialog ERC 基准数据集上验证我们的方法，其中我们使用轻量得多的模型获得了最先进水平的結果。
引用
@article{arxiv.2309.04292,
title = {Fuzzy Fingerprinting Transformer Language-Models for Emotion Recognition in Conversations},
author = {Patrícia Pereira and Rui Ribeiro and Helena Moniz and Luisa Coheur and Joao Paulo Carvalho},
journal= {arXiv preprint arXiv:2309.04292},
year = {2023}
}
备注
FUZZ-IEEE 2023