自适应域模型:贝叶斯演化、温旋转与几何与神经形态 AI 的原则化训练
人工智能
2026-04-21 v4 分布式、并行与集群计算
机器学习
神经与进化计算
摘要
主流 AI 训练基础设施假设以 IEEE-754 算术进行反向模式自动微分。相对于推理,训练的内存开销、优化器复杂度以及通过训练导致的几何属性结构性退化,皆源于此算术基底。本文发展另一种训练架构,基于三个先前结果:Dimensional Type System 与 Deterministic Memory Management 框架[6],确立栈可分配梯度与精确 quire 累加作为设计时可验证属性;Program Hypergraph[8],确立通过几何代数计算实现的等级保持作为类型层次不变量;b-posit 2026 标准[10],使 posit 算术在通常被视为仅限推理的硬件目标上变得可行。其组合使得训练内存与推理 footprint 成正比,约为两倍,权重更新保持等级,梯度精确累加,适用于基于损失函数优化和尼姆光纤时序依赖模型。我们引入贝叶斯蒸馏,提取通用模型潜在先验结构的机制,通过 ADM 训练方案解决数据稀缺的引导问题。部署时,我们引入温旋转(warm rotation)模式,更新后的模型进入活跃推理路径,无需中断服务,结构正确性通过 PHG 证书和签名版本记录形式化。最终形成一类小巧且精确于通用模型的领域特定 AI 系统,持续自适应,依据其域的物理结构可验证正确,并可从现有模型初始化。
引用
@article{arxiv.2603.18104,
title = {Adaptive Domain Models: Bayesian Evolution, Warm Rotation, and Principled Training for Geometric and Neuromorphic AI},
author = {Houston Haynes},
journal= {arXiv preprint arXiv:2603.18104},
year = {2026}
}
备注
32 pages, 3 figures