动态门控 MLP 结构推理并发的学习与数学正当性
机器学习
2026-04-16 v1
摘要
传统神经网络严格区分学习与推理，因为若推理期间参数被更新，输出将不稳定，甚至推理函数本身定义不清 [1, 2, 3]。本文表明 DynamicGate MLP 在结构上允许推理并发 [4, 5]。关键思想是将路由（门控）参数与表示（预测）参数分离，使得门控可在线适应而保持推理稳定性，或仅在非活跃子空间中选择性更新权重 [4, 5, 6, 7]。我们数学形式化了并发的充分条件，表明即使在异步或部分更新下，每个时间步的推理输出始终可解释为有效模型快照的前向计算 [8, 9, 10]。这表明 DynamicGate MLP 可作为面向在线自适应和设备学习系统的实用基础 [11, 12]。
关键词
引用
@article{arxiv.2604.13546,
title = {Learning Inference Concurrency in DynamicGate MLP Structural and Mathematical Justification},
author = {Yongil Choi},
journal= {arXiv preprint arXiv:2604.13546},
year = {2026}
}
备注
20 pages, 6 figures