Hilbert 空间中基于不准确数据的最优恢复:正则化及其参数问题
最优化与控制
2021-11-05 v1 机器学习
摘要
在最优恢复中,从观测数据学习函数的任务以确定性方式处理,采用与对待学习函数所作显式模型假设相关联的最坏情况视角。本文在 Hilbert 空间框架下工作,考虑了基于可逼近性的模型假设。它还纳入了通过在 中有界的加性误差建模的观测不准确性。早期工作已表明,正则化在此情形下提供了最优算法,但未完全确定所需的超参数。本文在局部场景和全局场景中均填补了这一空白。在等价于确定 Chebyshev 中心的局部场景中,Beck 和 Eldar 的半正定方法(仅在复数设定下有效)由一种更直接的方法补充,前提是观测泛函具有标准正交表示子。在所述方法中,所需参数是可通过标准方法求解的方程的解。在线性算法占主导地位的全局场景中,Micchelli 等人工作中未能确定的参数被作为半正定规划的副产品找到。此外,令人惊讶的是,在观测泛函具有标准正交表示子的情况下,已证明任何正则化参数都是最优的。
引用
@article{arxiv.2111.02601,
title = {Optimal Recovery from Inaccurate Data in Hilbert Spaces: Regularize, but what of the Parameter?},
author = {Simon Foucart and Chunyang Liao},
journal= {arXiv preprint arXiv:2111.02601},
year = {2021}
}