一种优化惩罚模型惩罚强度的简单数据驱动方法及其在非参数平滑中的应用
统计方法学
2022-06-22 v1 星系天体物理
摘要
感兴趣的信息往往只能通过对数据拟合模型来提取。当此类模型的函数形式无法由第一性原理推导时,必须在不同可能模型间做出选择。此类情形下的常见方法是:在仍对数据给出可接受拟合的同时,尽可能减少拟合变量数(或模型灵活度)以最小化模型中的信息损失。基于 Akaike 信息准则 (AIC) 的模型选择提供了奥卡姆剃刀的这样一种实现。我们论证相同原理可应用于优化惩罚最大似然模型的惩罚强度。然而,在典型应用中 AIC 用于从有限、离散的最大似然模型集中选择,而惩罚优化需从连续候选模型中选择且这些模型违背最大似然条件。我们推导了涵盖此情形的广义信息准则 AICp。它自然涉及有效自由参数概念,该概念非常灵活,可应用于任何模型,无论线性或非线性、参数或非参数、带或不带参数约束方程。我们展示广义 AICp 可在无需单独蒙特卡洛模拟的情况下优化任意惩罚强度。作为示例应用,我们讨论非参数模型中平滑的优化,这在天体物理中有许多应用,如动力学建模、谱拟合或引力透镜。
引用
@article{arxiv.2206.04067,
title = {A simple data-driven method to optimise the penalty strengths of penalised models and its application to non-parametric smoothing},
author = {Jens Thomas and Mathias Lipka},
journal= {arXiv preprint arXiv:2206.04067},
year = {2022}
}
备注
Accepted for publication in MNRAS, 12 pages, 9 figures