重审大语言模型文本分类中的提示敏感性：提示不完全明确性的作用
计算与语言
2026-02-05 v1 人工智能
机器学习
摘要
大型语言模型（LLMs）被广泛用作零样本和少样本分类器，任务行为主要通过提示控制。越来越多的研究发现，LLMs对提示变体敏感，小的变化会导致性能的大幅波动。然而，在许多情况下，对敏感性的研究使用不完全明确的提示，这类提示提供最少的任务指令且对模型的输出空间约束较弱。本文我们认为，显著比例的提示敏感性可归因于提示不完全明确性。我们系统性地研究和比较了不完全明确提示与提供具体指令的提示的敏感性。利用绩效分析、logit分析和线性探针，我们发现，不完全明确的提示表现出更高的绩效方差和较低的相关标记logit值，而具体指令提示则不易受此类问题的影响。然而，线性探针分析表明，提示不完全明确性的影响仅对内部LLM表示有微小影响，反而在最终层中显现。总体而言，我们的发现凸显了在调查和缓解提示敏感性方面的严谨性需求。
引用
@article{arxiv.2602.04297,
title = {Revisiting Prompt Sensitivity in Large Language Models for Text Classification: The Role of Prompt Underspecification},
author = {Branislav Pecher and Michal Spiegel and Robert Belanec and Jan Cegin},
journal= {arXiv preprint arXiv:2602.04297},
year = {2026}
}