中文

凸学习与非仿射聚合的危险联姻

机器学习 2026-06-26 v1 最优化与控制 机器学习
作者: Thomas Boudou , Batiste Le Bars , Nirupam Gupta , Aurélien Bellet
在 arXiv 上查看 ↗ PDF ↗

摘要

一阶凸学习中的末次迭代收敛与泛化保证依赖于更新算子的单调性。虽然线性平均保持梯度更新的单调性，但当梯度以非仿射方式聚合时——如现代流水线中强制适应性、隐私、鲁棒性或公平性等约束——该性质常被破坏。能否设计保持单调性的非仿射聚合规则一直是个开放问题。我们给出否定回答：我们证明聚合梯度的单调性被保持当且仅当聚合规则为正仿射的。因此，非仿射聚合阻碍稳定收敛并显著劣化算法稳定性。我们量化了这些缺陷，并通过识别可恢复单调性的充分条件提出前进路径。我们的结果提供了一个统一理论框架，解释了现代学习系统中观察到的各异失效模式。

关键词

凸学习 非仿射聚合 单调性 末次迭代收敛 算法稳定性 梯度更新 公平性约束

引用

@article{arxiv.2606.28123,
  title  = {Dangerous Liaisons of Convex Learning and Non-Affine Aggregation},
  author = {Thomas Boudou and Batiste Le Bars and Nirupam Gupta and Aurélien Bellet},
  journal= {arXiv preprint arXiv:2606.28123},
  year   = {2026}
}