平凡词汇禁令优于深层语言约束:提升大语言模型推理能力
计算与语言
2026-04-06 v1 人工智能
摘要
先前研究报告称,E-Prime(英文中不使用动词“to be”)会选择性地改变语言模型的推理行为,跨模型相关性暗示了某种结构性特征与被删除的词汇有关。我设计了一个带主动对照组的复制实验,以测试特定词汇-认知映射所致的认知重构机制。实验在五个条件下进行(无约束控制、E-Prime、No-Have、详尽元认知提示、中性填充词禁令),覆盖六个模型和七个推理任务(共 15,600 项试验,经合规性过滤后剩余 11,919 项)。来自认知重构假设的所有预测均未得到证实。四种所有处理方式均优于控制组(83.0%),包括被预测将产生零效应的主动对照组。其中,中性填充词禁令(禁用如“very”“just”等不参与逻辑推理的词汇)取得最大改善(+6.7 百分点),而 E-Prime 取得最小改善(+3.7 百分点)。四种处理方式的排序与理论深度呈完美逆序。跨模型相关性签名未复制(平均 r=0.005)。这些结果符合更简单机制:任何迫使模型离开默认生成路径的约束,都可作为输出正则化器,通过干扰流畅但浅层的响应模式来提升推理能力。最浅层的约束效果最佳,因为它们在最小概念扰动的同时施加了监控负荷。我将这些发现呈现为通过反证获得的发现案例。
引用
@article{arxiv.2604.02699,
title = {Trivial Vocabulary Bans Improve LLM Reasoning More Than Deep Linguistic Constraints},
author = {Rodney Jehu-Appiah},
journal= {arXiv preprint arXiv:2604.02699},
year = {2026}
}
备注
19 pages, 10 tables, 3 appendices