污染高斯模型中稳健估计的可处理近最优对抗算法
统计理论
2022-08-09 v2 机器学习
统计理论
摘要
考虑在Huber污染高斯模型下同时估计位置与方差矩阵的问题。首先，我们在总体层面上研究最小-散度估计，其对应于具有非参数判别器的生成对抗方法，并建立了关于-散度的条件，这些条件可导出稳健估计，类似于最小距离估计的稳健性。更重要的是，我们开发了具有简单样条判别器的可处理对抗算法，其可通过嵌套优化实现，使得在给定当前生成器时判别器参数能通过最大化凹目标函数得到完全更新。所提方法被证明可根据所使用的-散度与惩罚项达到极小极大最优速率或近最优速率。这是首次在Huber污染模型下为具有线性判别器的对抗算法建立此类近最优误差速率。我们给出仿真研究以展示所提方法相对于经典稳健估计器、成对方法以及具有神经网络判别器的生成对抗方法的优势。
引用
@article{arxiv.2112.12919,
title = {Tractable and Near-Optimal Adversarial Algorithms for Robust Estimation in Contaminated Gaussian Models},
author = {Ziyue Wang and Zhiqiang Tan},
journal= {arXiv preprint arXiv:2112.12919},
year = {2022}
}