保持深层表征的单次修剪：无 Hessian 次序优化框架

我们提出了 SNOWS，一种旨在降低视觉网络推理成本而无需重训练的单次后训练修剪框架。当前领先的单次修剪方法最小化按层的最小二乘重构误差，未考虑深层网络表征。我们提出优化更全局的重构目标。该目标考虑深层网络中的非线性激活，以获得更好的网络损失代理。这一非线性目标导致更具挑战性的优化问题——我们展示了可以使用专用二阶优化框架高效求解。我们框架的关键创新是使用无 Hessian 优化来计算精确的 Newton 下降步长，而无需计算或存储完整的 Hessian 矩阵。SNOWS 的一个独特优势是可以轻易地应用在任何基于先前方法派生的稀疏掩码之上，重新调整其权重以利用深层特征表征中的非线性。SNOWS 在各种单次修剪基准测试中取得了最先进的结果，包括残差网络和视觉 Transformer (ViT/B-16 和 ViT/L-16，分别为 8600 万和 3040 万参数)。