LLM 句子级否定理解的 Thunder-NUBench:一个基准测试
计算与语言
2026-04-21 v4
摘要
否定是一种基本的语言现象,持续在需要深层语义理解的任务中给大型语言模型 (LLM) 带来挑战。当前的基准测试往往将否定视为更广泛任务(如自然语言推理)中的细微细节,因此缺乏专门用于评估否定理解的基准测试。本文引入 Thunder-NUBench,一个旨在评估 LLM 句子级否定理解的新型基准测试。Thunder-NUBench 不仅仅识别表层线索,还通过对比标准否定与结构多样的备选方案,如局部否定、矛盾和改写,从而进行全面评估。该基准测试包含手动精选的句子-否定配对以及多选数据集,允许对模型的否定理解进行全面评估。
关键词
引用
@article{arxiv.2506.14397,
title = {Thunder-NUBench: A Benchmark for LLMs' Sentence-Level Negation Understanding},
author = {Yeonkyoung So and Gyuseong Lee and Sungmok Jung and Joonhak Lee and JiA Kang and Sangho Kim and Jaejin Lee},
journal= {arXiv preprint arXiv:2506.14397},
year = {2026}
}