HANS，你聪明吗？神经系统的聪明汉斯效应分析
计算与语言
2024-05-03 v2 人工智能
摘要
指令微调大语言模型 (It-LLMs) 已展现出围绕所有相关人员的认知状态、意图与反应进行推理的卓越能力，使人类能有效引导并理解日常社交互动。事实上，已有若干多选题 (MCQ) 基准被提出以构建对模型能力的可靠评估。然而，早期工作表明 It-LLMs 中存在固有的“顺序偏差”，对恰当评估提出挑战。本文中，我们利用四个 MCQ 基准考察 It-LLMs 面对一系列探测测试的鲁棒能力。通过引入对抗样本，我们展示了显著的性能差距，尤其在改变选项顺序时，这揭示了选择偏差并引发对推理能力的讨论。鉴于由位置偏差导致的首位置与模型选择间的相关性，我们假设 It-LLMs 决策过程中存在结构性启发式，并通过在少样本场景中纳入显著示例而得到强化。最后，我们利用思维链 (CoT) 技术引导模型推理，并通过获得更鲁棒的模型来缓解偏差。
引用
@article{arxiv.2309.12481,
title = {HANS, are you clever? Clever Hans Effect Analysis of Neural Systems},
author = {Leonardo Ranaldi and Fabio Massimo Zanzotto},
journal= {arXiv preprint arXiv:2309.12481},
year = {2024}
}
备注
This paper contains erroneous evaluations and we would like to withdraw it