动态嵌套层次：面向终身智能的机器学习架构自演化先驱

当代机器学习模型（包括大型语言模型）在静态任务上表现突出，但在非平稳环境中表现不佳，由于刚性架构阻碍持续适应和终身学习。基于分解为具有固定更新频率的多级优化问题的嵌套学习范式，本文提出动态嵌套层次作为推动人工智能和机器学习演进的下一步。动态嵌套层次使模型能够在训练或推理期间自主调整优化层次的数量、其嵌套结构以及更新频率，灵感来自神经可塑性，以实现无预定义约束的自我演化。该创新解决了现有模型的逆向记忆问题，实现真正的终身学习，通过动态压缩上下文流并适应分布迁移。在严谨的数学公式、收敛性证明、表达性界限以及亚线性报酬在不同情形下的理论保证，以及在语言建模、持续学习和长上下文推理中的实证演示方面，动态嵌套层次为通用自适应智能奠定了基础性进展。