为何零阶适应可能忘记较少：随机化 shaping 理论
机器学习
2026-05-12 v1
摘要
持续学习需要在不损伤先前已获得能力的前提下进行新任务适应。最近的前向传播和零阶 (ZO) 结果表明，低查询适应可能优于一阶 (FO) 梯度下降，但通常将 ZO 视为噪声 FO 估计的观点无法解释其为何更好。我们给出一种局部随机化梯度-shaping 分析：有限差分暴露出与 FO 对齐的原始形状，而范数匹配的比较器固定了预期平方适应范数。在受控比较下，遗忘取决于适应形状所暴露的保留曲率。对于范数匹配的 ZO，预期的 shaped 保留曲率满足一个精确恒等式，保持各向同性保留底 while 只收缩各向异性分量。将该恒等式投影到输入梯度上，即可得到可观测的 FO--ZO 二次遗忘差：ZO 在 FO 方向具有平均以上保留曲率时，正好通过该曲率超额的查询相关分数提高遗忘。一种实用的有限查询 accounting 将平均机制从单批采样和平滑扰动中分离出来。作为算法迁移，RISE 将校准的 ZO shape 应用于参数块内的精确 FO 梯度。其目标是 stability-plasticity 权衡：随机化 shaping 可能降低 FO 所暴露的保留成本，精确梯度消除有限差分 ZO 中的有限平滑偏差，块状采样在一个梯度计算后提供众多局部 shaping 方向。块状分析将平均步骤损伤从中心化随机暴露中分离，阐明了块对角曲率、跨块耦合以及局部 shaping 诊断如何指定确切梯度迁移最可能显现的地方。
关键词
引用
@article{arxiv.2605.10658,
title = {Why Zeroth-Order Adaptation May Forget Less: A Randomized Shaping Theory},
author = {Yao Shu and Jian Mu and Zhongxiang Dai},
journal= {arXiv preprint arXiv:2605.10658},
year = {2026}
}