我们在文本分类上真的取得了很大进展吗？一项比较性综述
计算与语言
2025-01-22 v6
摘要
我们分析了在知名数据集上用于单标签与多标签文本分类的各类方法，并将其划分为词袋、基于序列、基于图和层次化方法。尽管基于图的模型等方法激增，以编码器为主的预训练语言模型（尤其是 BERT）仍保持最优（state-of-the-art）水平。然而，近期研究发现，逻辑回归和基于三元文法的 SVM 等更简单的模型优于更新的技术。虽然仅解码器的生成式语言模型在有限数据学习方面展现出潜力，但其性能仍落后于仅编码器模型。我们强调，诸如 BERT 等判别式语言模型在有监督任务上优于生成式模型。此外，我们指出文献在方法比较方面缺乏稳健性，特别是在微调仅编码器语言模型时学习率等基本超参数优化上。数据可用性：源代码见 https://github.com/drndr/multilabel-text-clf，除 NYT 数据集外，我们实验所用的所有数据集均公开可用。
引用
@article{arxiv.2204.03954,
title = {Are We Really Making Much Progress in Text Classification? A Comparative Review},
author = {Lukas Galke and Ansgar Scherp and Andor Diera and Fabian Karl and Bao Xin Lin and Bhakti Khera and Tim Meuser and Tushar Singhal},
journal= {arXiv preprint arXiv:2204.03954},
year = {2025}
}
备注
Update: covering single-label, multi-label, and hierarchical classification, small language models, and large language models. Extension of "Bag-of-Words vs. Graph vs. Sequence in Text Classification: Questioning the Necessity of Text-Graphs and the Surprising Strength of a Wide MLP. ACL (1) 2022: 4038-4051", URL: https://aclanthology.org/2022.acl-long.279/