针对最坏情形期望误差的更快算法与常数下界
数据结构与算法
2021-12-28 v1 机器学习
摘要
在无数据值分布假设但已知数据收集方法下的统计估计研究最近由 Chen、Valiant 和 Valiant(NeurIPS 2020)提出。在该框架中,目标是设计使最坏情形期望误差最小的估计量。此处期望是关于从某总体中已知的随机化数据收集过程,且对应于总体中每个元素的数据值被假设为最坏情形。Chen、Valiant 和 Valiant 表明,当数据值被 归一化时,存在一个多项式时间算法,可在半线性估计量自然类中计算均值估计量,其最坏情形期望误差在最优值的因子 之内。然而,他们的算法基于在受约束的半正定矩阵集上优化一个稍复杂的凹目标函数,因此除输入上的多项式时间外不带有显式运行时间保证。在本文中,我们设计了基于在线凸优化的可证明高效算法来近似最优半线性估计量。在数据值被 归一化的设定下,我们的算法通过迭代求解一系列标准 SDP 实现 近似。当数据值被 归一化时,我们的算法迭代计算一系列矩阵的主特征向量,且不损失任何乘法近似因子。我们给出这些正面结果的补充,陈述了一个简单组合条件,若某数据收集过程满足该条件,则意味着任何(不一定是半线性的)均值估计量具有常数最坏情形期望误差。
引用
@article{arxiv.2112.13832,
title = {Faster Algorithms and Constant Lower Bounds for the Worst-Case Expected Error},
author = {Jonah Brown-Cohen},
journal= {arXiv preprint arXiv:2112.13832},
year = {2021}
}