有限与增长维度下重尾误差中典型变点问题的鲁棒学习
统计理论
2021-05-26 v1 统计理论
摘要
本文给出关于典型变点估计问题的若干新发现。第一部分研究在简单stump模型中使用鲁棒Huber估计函数估计实线上变点，该函数插值于基于ℓ_1（绝对偏差）与ℓ_2（最小二乘）的准则之间。尽管ℓ_2准则已被广泛研究，其鲁棒对应物尤其是ℓ_1最小化问题尚未被研究。我们推导了Huber估计函数下估计变点的极限分布，并与ℓ_2准则下者比较。理论与经验研究表明，在重尾误差下使用Huber估计函数（尤其是ℓ_1准则）更有利，因其在通常置信水平下相比ℓ_2准则带来更小的渐近置信区间。我们还在并行设定中比较ℓ_1与ℓ_2方法，其中存在m个独立单变点问题，目标是控制估计变点与真值的最大偏差，并严格确立ℓ_1估计准则比ℓ_2提供更好的收敛速率，且该相对优势由误差分布尾部的重性所驱动。最后，我们推导了增长维度下变平面估计问题的极小极大最优速率，并证明Huber估计达到最优速率，而ℓ_2方案对重尾误差产生次优速率估计量。在推导结果过程中，我们建立了复合二项过程与复合泊松过程极小化子的若干性质，其本身具独立意义。
引用
@article{arxiv.2105.11591,
title = {On robust learning in the canonical change point problem under heavy tailed errors in finite and growing dimensions},
author = {Debarghya Mukherjee and Moulinath Banerjee and Ya'acov Ritov},
journal= {arXiv preprint arXiv:2105.11591},
year = {2021}
}