中文

驱动信息系统中的相变:学习理论与非平衡化学的双场视角

机器学习 2026-05-19 v1 人工智能

摘要

深度学习中的相变现象(如润湿、涌现能力以及在情境迁移下的本体论重组)通过多种视角进行了研究,包括表征压缩、奇异学习理论和信息论进步措施。独立地,非平衡统计物理已识别驱动化学反应网络中非平衡相变,其经验信号在单场梯度账户中难以复现。我们提出一种视角,将这两类现象都描述为驱动信息系统:由两个梯度场支配的随机过程,一个是熵产生率 Sigma,另一个是信息准势 Phi_I := -ln p*,其中 p* 为平稳密度。在此框架下,我们引入两个候选序参数:对抗性崩溃阈值 alpha_dagger 和自指耦合阈值 kappa_c。(alpha_dagger, kappa_c) 的联合标度定义了一个候选普适类,其指数为 (gamma_1, gamma_2)。我们概述了该框架的几何结构,识别了与单场替代方案不同的可检验预测,并显示其与近期经验发现(2024--2026)在对齐相变、对抗性崩溃比例以及大型语言模型中部分内省方面的一致性。

关键词

引用

@article{arxiv.2605.16325,
  title  = {Phase Transitions in Driven Informational Systems: A Two-Field Perspective on Learning Theory and Non-Equilibrium Chemistry},
  author = {Truong Xuan Khanh},
  journal= {arXiv preprint arXiv:2605.16325},
  year   = {2026}
}

备注

29 pages, 2 figures