中文

通过数据增强分析与缓解否定 artifact:提高 ELECTRA-Small 模型准确率

计算与语言 2025-11-11 v1 人工智能

摘要

自然语言推理(NLI)的预训练模型常通过利用虚假关联或数据集中的 artifact 而实现高准确率,而非真正理解语言中的否定结构。本项目研究了在斯坦福自然语言推理(SNLI)数据集上微调的 ELECTRA-small 模型性能,重点考察其对否定表达的处理能力。通过分析,我们发现该模型在正确分类包含否定内容的样本方面存在困难。为此,我们通过引入强化否定语义的对抗样本和对比数据集来增强训练数据。实验结果表明,这种针对性的数据增强在不影响整体性能的前提下,显著提升了模型对否定样本的准确率,从而有效缓解了数据集中存在的 artifact 现象。

关键词

引用

@article{arxiv.2511.06234,
  title  = {Analyzing and Mitigating Negation Artifacts using Data Augmentation for Improving ELECTRA-Small Model Accuracy},
  author = {Mojtaba Noghabaei},
  journal= {arXiv preprint arXiv:2511.06234},
  year   = {2025}
}