链思考提示对 LLM 中性别偏见影响的机制解释
组合数学
2026-05-21 v1
摘要
大型语言模型 (LLM) 正在社会敏感场景中部署，尽管已有大量文献记录其编码了性别偏见。链思考 (CoT) 提示被提出作为一种缓解偏见的方法。然而，现有评估主要关注 LLM 基准性能的变化，仅能提供有限的关于显然偏见降低是否反映模型内部机制是否存在实质性变化的见解。本文结合基准评估、机制可解释性技术和推理链失效分析，探讨了 CoT 提示如何影响 LLM 中的性别偏见。我们的结果确认了 LLM 输出在基准测试中存在刻板印象偏见，表明 CoT 提示并不一致地减少偏见差距。机制分析显示，尽管 CoT 在某些注意力头簇中平衡了有偏见的行为，但性别偏见仍嵌入隐藏表示中，表明仅有表面性的缓解。推理链的检查进一步表明，这些改进来源于对数据集的记忆和熟悉，而非对偏见的真正理解。
引用
@article{arxiv.2605.20409,
title = {Higher cosystoles of matroids},
author = {James Dylan Douthitt and Elana Israel and Lee Kennard},
journal= {arXiv preprint arXiv:2605.20409},
year = {2026}
}