面向多标签学习与应用到情感分类的联合二值神经网络
机器学习
2018-02-06 v1 机器学习
摘要
近年来,深度学习技术凭借其自动表示学习能力和端到端学习框架,在多标签分类中取得了成功。现有多标签分类的深度神经网络可分为两类:二值相关神经网络(BRNN)和阈值依赖神经网络(TDNN)。然而,前者需要训练一组孤立的二值网络,忽略了标签间的依赖关系且计算负担重;后者则需要额外的阈值函数机制将多类概率转换为多标签输出。本文提出一种联合二值神经网络(JBNN)以解决这些缺陷。在 JBNN 中,文本的表示被输入到一组 logistic 函数而非 softmax 函数,多个二值分类在一个神经网络框架中同步进行。此外,标签间的关系通过联合二值交叉熵(JBCE)损失训练来捕获。为了更好地适应多标签情感分类,我们进一步提出将先验标签关系纳入 JBCE 损失。在基准数据集上的实验结果表明,我们的模型在分类性能和计算效率上均显著优于最先进的多标签情感分类方法。
引用
@article{arxiv.1802.00891,
title = {Joint Binary Neural Network for Multi-label Learning with Applications to Emotion Classification},
author = {Huihui He and Rui Xia},
journal= {arXiv preprint arXiv:1802.00891},
year = {2018}
}