EmotionX-KU:基于 BERT-Max 的上下文情绪分类器
计算与语言
2019-08-23 v2
摘要
我们提出了一种基于可迁移语言模型和动态最大池化的上下文情绪分类器,用于预测对话中每个话语的情绪。代表性情绪分析任务 EmotionX 要求考虑口语对话中的上下文信息,并处理类别不平衡问题。为缓解这些问题,我们的模型利用了基于自注意力的可迁移语言模型和加权交叉熵损失。此外,我们应用后训练和微调机制来增强模型的领域适应性,并利用多种机器学习技术提升其性能。我们在名为 Friends 和 EmotionPush 的两个情绪标注数据集上进行了实验。结果表明,我们的模型优于先前的最先进模型,并在 EmotionX 2019 挑战赛中展现出有竞争力的性能。代码将在 Github 页面上公开。
引用
@article{arxiv.1906.11565,
title = {EmotionX-KU: BERT-Max based Contextual Emotion Classifier},
author = {Kisu Yang and Dongyub Lee and Taesun Whang and Seolhwa Lee and Heuiseok Lim},
journal= {arXiv preprint arXiv:1906.11565},
year = {2019}
}
备注
The 7th International Workshop on Natural Language Processing for Social Media (in conjunction with IJCAI 2019); figure modified