数据重建:可辨识性与样本分割下的优化
机器学习
2026-02-10 v1 密码学与安全
机器学习
摘要
从 KKT 条件重建训练数据已显示出惊人的实证成功,但仍不清楚所得 KKT 方程组何时具有唯一解,甚至在可辨识 regime 中,如何可靠地通过优化恢复解。本工作聚焦于这两个互补问题:可辨识性和优化。在可辨识性方面,我们讨论了两层具有多项式激活函数网络的 KKT 系统唯一确定训练数据的充分条件,提供了重建何时可能以及为何可能的理论解释。在优化方面,我们引入了样本分割,这是一种适用于通用重建目标(不仅限于 KKT 基于公式)的曲率感知细化步骤:它创建额外的下降方向以逃离差异较大的驻点并细化解。实验表明,将样本分割增强添加到几种现有重建方法后,一致改善了重建性能。
引用
@article{arxiv.2602.08723,
title = {Data Reconstruction: Identifiability and Optimization with Sample Splitting},
author = {Yujie Shen and Zihan Wang and Jian Qian and Qi Lei},
journal= {arXiv preprint arXiv:2602.08723},
year = {2026}
}