循环扩展：通向下一代深度学习的路径

本文介绍了循环扩展（Recurrent Expansion, RE）作为一种超越传统机器学习（Machine Learning, ML）和深度学习（Deep Learning, DL）的新型学习范式。虽然深度学习专注于从静态数据表示中进行学习，但RE提出了另一个维度：从模型自身的演化行为中进行学习。RE强调通过相同的深层架构对数据进行多次映射，并分析其内部表示（即特征图）以及观察到的性能信号（如损失）。通过融合这些行为痕迹，RE实现了迭代自我改进，使每个模型版本都能从前辈模型中获得洞察。该框架通过多维度循环扩展（Multiverse RE, MVRE）得到扩展，该方法聚合来自并行模型实例的信号；进一步通过异构多维度循环扩展（Heterogeneous MVRE, HMVRE）实现，该方法使不同架构的模型贡献多样化视角。一种可扩展且自适应的变体Sc-HMVRE引入了选择机制和规模多样性，以应对实际部署需求。总体而言，RE代表了深度学习的一个范式转变：从纯表征性学习转向行为感知、自我演化系统。它为新一类能够对自身学习动力学进行推理的智能模型奠定了基础，为通向可扩展、自省和自适应的人工智能之路提供了可能性。本文的代码可用性部分提供了一个简单的代码示例，以帮助初学者开展自己的实验。