中文

打破 LLM 工具链中身份错觉

软件工程 2026-04-10 v1 人工智能

摘要

大语言模型(LLM)在研究和开发工具链中产生的输出会引发对代理性和理解能力的归属感,这种认知错觉会降低验证行为和信任校准水平。目前尚无现有的缓解措施能为输出寄存器提供系统性、可部署的约束集合。本文提出七项面向输出端的规则,每项均针对已记录的语言机制进行验证。在 780 轮两轮对话中(受限寄存器 vs 默认寄存器,30 个任务,13 次复制,1560 次 API 调用), anthropomorphic 标记从 1233 减少到 33(降幅 >97%,p < 0.001),输出字数缩短 49%,而适配的 AnthroScore 确认了向机器寄存器的转变(-1.94 vs -0.96,p < 0.001)。这些规则以配置式文件系统提示实现,无需模型修改;验证仅使用单一模型(Claude Sonnet 4)。受限寄存器下的输出质量未被评估。该机制可扩展至其他领域。

关键词

引用

@article{arxiv.2604.07398,
  title  = {Breaking the Illusion of Identity in LLM Tooling},
  author = {Marek Miller},
  journal= {arXiv preprint arXiv:2604.07398},
  year   = {2026}
}

备注

8 pages, 2 figures, 2 tables