基于提示的few-shot文本分类中相互强化效应的实证研究
计算与语言
2024-10-15 v1
摘要
相互强化效应（Mutual Reinforcement Effect, MRE）探讨了词级别和文本级别分类在文本分类任务中的协同关系。它认为，两个分类水平的性能可以相互提升。然而，此机制在先前的研究中尚未得到充分的证明或解释。为填补这一空白，我们采用经验实验观察和证实 MRE 理论。我们对 21 个 MRE 混合数据集进行了实验，发现 MRE 在模型中存在并对其产生影响。具体而言，我们进行了对比实验使用 fine-tune。来自比较实验的结果进一步证实了 MRE 的存在。此外，我们将 MRE 扩展到提示学习中，利用词级别信息作为 verbalizer 来增强模型对文本级别分类标签的预测。在我们的最后实验中，F1 分数在 18 个 MRE 混合数据集中显著超过基线，进一步验证了词级别信息增强语言模型对整个文本理解的作用。
引用
@article{arxiv.2410.09745,
title = {Empirical Study of Mutual Reinforcement Effect and Application in Few-shot Text Classification Tasks via Prompt},
author = {Chengguang Gan and Tatsunori Mori},
journal= {arXiv preprint arXiv:2410.09745},
year = {2024}
}
备注
10 pagess, 4 figures