中文

LLM 句子级否定理解的 Thunder-NUBench:一个基准测试

计算与语言 2026-04-21 v4

摘要

否定是一种基本的语言现象,持续在需要深层语义理解的任务中给大型语言模型 (LLM) 带来挑战。当前的基准测试往往将否定视为更广泛任务(如自然语言推理)中的细微细节,因此缺乏专门用于评估否定理解的基准测试。本文引入 Thunder-NUBench,一个旨在评估 LLM 句子级否定理解的新型基准测试。Thunder-NUBench 不仅仅识别表层线索,还通过对比标准否定与结构多样的备选方案,如局部否定、矛盾和改写,从而进行全面评估。该基准测试包含手动精选的句子-否定配对以及多选数据集,允许对模型的否定理解进行全面评估。

关键词

引用

@article{arxiv.2506.14397,
  title  = {Thunder-NUBench: A Benchmark for LLMs' Sentence-Level Negation Understanding},
  author = {Yeonkyoung So and Gyuseong Lee and Sungmok Jung and Joonhak Lee and JiA Kang and Sangho Kim and Jaejin Lee},
  journal= {arXiv preprint arXiv:2506.14397},
  year   = {2026}
}