中文

神经控制器策略二阶剪枝的闭式鲁棒性界

机器人学 2025-07-08 v1 数值分析 系统与控制 系统与控制 数值分析 最优化与控制

摘要

深度神经策略已实现了四旋翼飞行器的敏捷飞行、机械臂的自适应抓取以及地面机器人的可靠导航,然而其数百万的权重与嵌入式微控制器的严格内存和实时约束相冲突。二阶剪枝方法,例如最优脑损伤(OBD)及其变体,包括最优脑外科医生(OBS)和最近的SparseGPT,通过利用局部Hessian矩阵在单次遍历中压缩网络,实现了比幅度阈值化高得多的稀疏性。尽管在视觉和语言领域取得了成功,但这种权重移除对闭环稳定性、跟踪精度和安全性的影响仍不清楚。我们首次对非线性离散时间控制中的二阶剪枝进行了数学上严格的鲁棒性分析。系统在连续转移映射下演化,而控制器是一个具有全局1-Lipschitz的ReLU型激活函数的L层多层感知机。剪枝第k层的权重矩阵将W_k替换为W_k+δW_k,产生扰动后的参数向量Θ̂=Θ+δΘ和剪枝后的策略π(·;Θ̂)。对于每个输入状态s∈X,我们推导出闭式不等式‖π(s;Θ)-π(s;Θ̂)‖₂ ≤ C_k(s)‖δW_k‖₂,其中常数C_k(s)仅依赖于未剪枝的谱范数和偏置,并且可以通过单次前向传播以闭式形式评估。所推导的界在部署前指定了与预设控制误差阈值兼容的最大允许剪枝幅度。通过将二阶网络压缩与闭环性能保证联系起来,我们的工作缩小了现代深度学习工具与安全关键自主系统的鲁棒性需求之间的关键差距。

关键词

引用

@article{arxiv.2507.02953,
  title  = {Closed-Form Robustness Bounds for Second-Order Pruning of Neural Controller Policies},
  author = {Maksym Shamrai},
  journal= {arXiv preprint arXiv:2507.02953},
  year   = {2025}
}

备注

7 pages