中文

状态空间模型中的建筑主体感知:热力学训练诱导预期性停止检测

机器学习 2026-03-05 v1 人工智能

摘要

我们提出概率导航架构(PNA)框架,将神经计算视为通过概率流形导航,受热力学原理支配。我们以 novel 热力学损失函数训练状态空间模型(SSM)和Transformer,该损失函数在标准交叉熵的基础上惩罚计算浪费。跨19个实验阶段,我们发现,热力学训练的SSM发展出建筑主体感知:在递归状态熵和停止置信度之间存在强烈的预期耦合(r = -0.836, p < 0.001),其中停止信号恰好在状态熵坍缩前两个标记(tau = -2.0)领先。这种通用停止信号(USS)在随机种子间达到四位小数精度,并推广到结构不同的排序任务。关键的是,训练相同方式的Transformer未显示出此类耦合(r = -0.07),表明该现象是架构相关的。跨任务迁移实验确认,SSM停止检测反映真正的 meta-cognition(零样本迁移F1: SSM 64.2% vs. Transformer 69.3%; 调整后: SSM 94.5% vs. Transformer 86.4%),而Transformer停止检测依赖于语法模式匹配。我们对能量惩罚(alpha)和停止监督(beta)进行2D超参数扫描,发现预期耦合可通过训练持续调控,热力学压力作为主要诱导机制,显式停止监督作为放大器。我们的结果确立了SSM是热力学原生架构,其固定大小的递归状态自然支持使计算自我意识可实现的马尔可夫压缩,具有成本感知推理、动态标记预算和生产系统中的基于置信度路由方面的意义。

关键词

引用

@article{arxiv.2603.04180,
  title  = {Architectural Proprioception in State Space Models: Thermodynamic Training Induces Anticipatory Halt Detection},
  author = {Jay Noon},
  journal= {arXiv preprint arXiv:2603.04180},
  year   = {2026}
}

备注

17 pages, 15 figures