透过动力学不变量的视角理解学习

本文提出了一种关于学习的新视角，将其视为对动力学不变量的追求——即随着系统演化，保持恒定或随时间表现出极小变化的数据组合。这一概念由信息和物理原理共同支撑，根植于这些不变量的固有属性。首先，其稳定性使其非常适合记忆并整合到联想网络中，构成了我们知识结构的基础。其次，这些稳定不变量的可预测性使其成为可用能的有价值来源，每准确预测一位信息可量化为 kTln2 的能量。这种能量可被用于探索新的变换，使学习系统在能量上自主且日益高效。此类系统被驱动去不断寻找新的数据不变量作为能源。本文进一步探讨了几种自主、自驱动学习智能体的元架构，这些智能体利用可预测的信息模式作为可用能源。