观点：停止将中间 token 生成（ITG）拟人化为推理/思考痕迹！
人工智能
2026-03-09 v3
摘要
中间 token 生成（ITG）是指模型在解答前生成输出的过程，这种方法已成为提升语言模型在推理任务性能标准方法。这些中间 token 被称为“推理痕迹”或甚至“思考”——在无意中拟人化这些痕迹，暗示这些痕迹类似于人类在解决困难问题时所采取的步骤，因而可为最终用户提供对模型思维过程的可解释窗口。在本观点论文中，我们提供证据表明，这种拟人化并非无害的隐喻，而是相当危险的——它混淆了这些模型的本质以及如何有效地使用它们，导致了值得质疑的研究。我们呼吁社区避免对中间 token 进行此类拟人化。
关键词
引用
@article{arxiv.2504.09762,
title = {Position: Stop Anthropomorphizing Intermediate Tokens as Reasoning/Thinking Traces!},
author = {Subbarao Kambhampati and Karthik Valmeekam and Siddhant Bhambri and Vardhan Palod and Lucas Saldyt and Kaya Stechly and Soumya Rani Samineni and Durgesh Kalwar and Upasana Biswas},
journal= {arXiv preprint arXiv:2504.09762},
year = {2026}
}
备注
This is a fork of v1. This fork, while overlapping with v1 in background section, differs both in the overall focus as well as the specific argument against anthropomorphization of reasoning traces