治理自省人类-AI 协作：关于认知支架与可追溯推理的框架
人工智能
2026-04-17 v1 计算机与社会
人机交互
摘要
大型语言模型已迅速发展，从模式识别到新兴的推理形式，但仍局限于语言模拟而非扎实的理解。它们可以产生流畅的输出，仿佛具有反思能力，但缺乏时间连续性、因果反馈以及与现实互动的锚定。本文提出一种补充方法，将推理视为分布在人类与模型之间的关系性过程，而非单一主体的内部能力。基于关于“System-2”学习的最新工作，我们将反省推理 relocate 到交互层。不通过仅在模型内部工程化推理，而是将其框架化为一种可结构化、可度量、可治理的认知协议。这种视角强调协作智能，结合人类的判断与情境理解，以及机器的速度、记忆与关联能力。我们引入“The Architect's Pen”作为一种实用方法。类似于建筑师通过绘图进行思考，人类将模型用作结构化反思的外部媒介。通过在人类-AI 交互中嵌入 articulation、critique 与 revision 三个阶段，对话本身成为一种推理循环：人类抽象 -> 模型表述 -> 人类反思。这重新定义了问题，从模型是否能思考，转向人类-AI 系统是否能推理。该框架实现可审计的推理痕迹，支持与欧盟 AI 法案及 ISO/IEC 42001 等新兴治理标准的对齐。它为实现更透明、可控且有 accountability 的 AI 用途提供了一条无需新模型架构的实用路径。
引用
@article{arxiv.2604.14898,
title = {Governing Reflective Human-AI Collaboration: A Framework for Epistemic Scaffolding and Traceable Reasoning},
author = {Rikard Rosenbacke and Carl Rosenbacke and Victor Rosenbacke and Martin McKee},
journal= {arXiv preprint arXiv:2604.14898},
year = {2026}
}