Hessian 手术：通过 Hessian 尖峰扰动实现面向类别的后处理再平衡
机器学习
2026-05-19 v2 计算机视觉与模式识别
摘要
训练深层网络的 Hessian 谱呈现特征结构：一大堆接近零的本征值形成连续体，以及少数大型异常本征值（尖峰），确认 Random Matrix Theory 在深度学习中的相关性。尖峰数量等于类别数减一。虽然先前工作描述了此结构，但尚无方法利用它在操作上提高分类性能。我们提出 Hessian 手术，是一种后处理优化方法，直接沿尖峰特征向量扰动模型权重，以无需重新训练的方式实现类别准确率再平衡。我们引入（i）一种尖峰-类别灵敏度矩阵，量化每个类别在每个尖峰特征向量方向上的准确率一阶导数；（ii）一种受约束的扰动系数优化，针对弱类别进行目标化扰动，同时保持强类别；（iii）一种自适应幅度控制，根据迭代级别的改进信号调节扰动预算。我们在 CIFAR-10 和 ISIC-2019 上获得鼓舞结果，涵盖平衡准确率与标准差。
引用
@article{arxiv.2605.07790,
title = {Hessian Surgery: Class-Targeted Post-Hoc Rebalancing via Hessian Spike Perturbation},
author = {Hugo Vigna and Samuel Bontemps},
journal= {arXiv preprint arXiv:2605.07790},
year = {2026}
}
备注
The code is available here: https://github.com/hugovigna/hessian-surgery.git