面向长尾类分布多标签文本分类的平衡方法
计算与语言
2021-10-19 v2
摘要
多标签文本分类是一项具有挑战性的任务，因为它需要捕获标签依赖关系。当类分布呈长尾分布时，这变得更加具有挑战性。重采样和重加权是用于解决类不平衡问题的常用方法，然而，当除了类不平衡还存在标签依赖关系时，它们并不有效，因为它们会导致常见标签的过采样。在此，我们介绍了平衡损失函数在多标签文本分类中的应用。我们在一个包含 90 个标签的通用领域数据集 (Reuters-21578) 和一个来自 PubMed 的包含 18211 个标签的特定领域数据集上进行了实验。我们发现，分布平衡损失函数本质上同时解决了类不平衡和标签关联问题，其性能优于常用的损失函数。分布平衡方法已成功应用于图像识别领域。在此，我们展示了它们在自然语言处理中的有效性。源代码可在 https://github.com/Roche/BalancedLossNLP 获取。
引用
@article{arxiv.2109.04712,
title = {Balancing Methods for Multi-label Text Classification with Long-Tailed Class Distribution},
author = {Yi Huang and Buse Giledereli and Abdullatif Köksal and Arzucan Özgür and Elif Ozkirimli},
journal= {arXiv preprint arXiv:2109.04712},
year = {2021}
}
备注
EMNLP 2021