控制理论方法在精细调优与迁移学习中的应用

给定训练集 $(\mathcal{X},\mathcal{Y})$，若控制系统 $\dot x = f(x,u)$ 通过控制 $u^*$ 将 $\mathcal{X}$ 中的每个点引导至其对应的目标 $\mathcal{Y}$，则称该系统已通过该控制学习了该训练集。当训练集扩大时，现有大多数寻找新控制 $u^*$ 的方法需要从头开始，导致随点数呈二次增长。为克服此限制，我们提出“无忘记调优”（tuning without forgetting）的概念。我们发展了一种迭代算法，用于在训练集扩小时调节控制 $u^*$，既保持已有点匹配，又学习新训练样本。在每次迭代更新中，控制 $u^*$ 投影到由受控动力学在已学习样本处生成的端点映射的核中。这确保在迭代学习额外样本的同时，保持先前学习样本的端点不变。