用于交互式情感响应分类的基于数据增强的半监督模型
计算与语言
2020-04-24 v1
摘要
我们提出了带有数据增强的半监督模型(SMDA),这是一个用于对交互式情感响应进行分类的半监督文本分类系统。SMDA 利用最新的基于 Transformer 的模型对每个句子进行编码,并采用回译技术对给定句子进行改写作为增强数据。对于有标签句子,我们进行数据增强以使标签分布均匀,并在训练过程中计算监督损失。对于无标签句子,我们通过将无标签句子上的低熵预测视为伪标签来探索自训练,假设高置信度预测作为有标签数据进行训练。基于模型在输入原始无标签句子和输入增强句子时应预测出相似类别分布的假设,我们进一步在无标签数据上进行数据增强后引入一致性正则化作为无监督损失。通过一系列实验,我们证明了我们的系统在 F1-score 和准确率方面优于基线模型。
引用
@article{arxiv.2004.10972,
title = {Semi-Supervised Models via Data Augmentationfor Classifying Interactive Affective Responses},
author = {Jiaao Chen and Yuwei Wu and Diyi Yang},
journal= {arXiv preprint arXiv:2004.10972},
year = {2020}
}
备注
The AAAI-20 Workshop On Affective Content Analysis AFFCON2020: Interactive Affective Response