面向流惩罚回归模型中时变正则化参数的解释
统计方法学
2020-09-28 v1
摘要
高维流式数据集在现代应用中无处不在。例子从金融、电子商务到生物医学与神经影像数据的研究。因此，许多新算法被提出以应对此类数据集带来的挑战。在本工作中，我们关注（可能非平稳）流式数据背景下的 正则化线性模型。近来，人们注意到正则化参数的选择在此类模型中至关重要，且已提出若干方法以迭代方式按时间变化调节该参数，从而使估计模型的底层稀疏性得以变化。此外，在许多应用中，对正则化参数本身的推断可能自有其意义，因为该参数与模型的底层 \textit{稀疏性} 相关。然而，在本工作中，我们强调并提供广泛经验证据，说明数据中各种（常不相关的）统计性质如何导致正则化参数变化。特别地，通过多个合成实验，我们证明正则化参数的变化可能由真实底层稀疏性、信噪比乃至模型误设的变化所驱动。因此，本通讯之目的在于强调并编目引发相关正则化参数变化的各种统计性质。我们最后给出两个应用作结：一者关乎金融数据，另一者关乎神经影像数据，前述讨论于其间切题。
引用
@article{arxiv.2009.12113,
title = {Towards the interpretation of time-varying regularization parameters in streaming penalized regression models},
author = {Lenka Zboňáková and Ricardo Pio Monti and Wolfgang Karl Härdle},
journal= {arXiv preprint arXiv:2009.12113},
year = {2020}
}