中文

数据重建:可辨识性与样本分割下的优化

机器学习 2026-02-10 v1 密码学与安全 机器学习

摘要

从 KKT 条件重建训练数据已显示出惊人的实证成功,但仍不清楚所得 KKT 方程组何时具有唯一解,甚至在可辨识 regime 中,如何可靠地通过优化恢复解。本工作聚焦于这两个互补问题:可辨识性和优化。在可辨识性方面,我们讨论了两层具有多项式激活函数网络的 KKT 系统唯一确定训练数据的充分条件,提供了重建何时可能以及为何可能的理论解释。在优化方面,我们引入了样本分割,这是一种适用于通用重建目标(不仅限于 KKT 基于公式)的曲率感知细化步骤:它创建额外的下降方向以逃离差异较大的驻点并细化解。实验表明,将样本分割增强添加到几种现有重建方法后,一致改善了重建性能。

关键词

引用

@article{arxiv.2602.08723,
  title  = {Data Reconstruction: Identifiability and Optimization with Sample Splitting},
  author = {Yujie Shen and Zihan Wang and Jian Qian and Qi Lei},
  journal= {arXiv preprint arXiv:2602.08723},
  year   = {2026}
}