带变异性惩罚的生成式分位数回归
统计方法学
2023-11-14 v2
摘要
分位数回归与条件密度估计能够揭示均值回归所遗漏的结构，如多模态与偏态。本文中，我们引入一种用于联合分位数估计的深度学习生成模型，称为惩罚生成式分位数回归（PGQR）。我们的方法同时从多个随机分位数水平生成样本，从而推断给定一组协变量时响应变量的条件分布。我们的方法采用一种新颖的变异性惩罚，以避免深度生成模型中变异性消失或记忆化问题。此外，我们引入一类新的部分单调神经网络（PMNN）以规避分位数曲线交叉问题。PGQR 的一大优势是可通过单次优化拟合，从而免去在多个分位数水平重复训练模型或使用计算昂贵的交叉验证调谐惩罚参数的需要。我们通过广泛的模拟研究与实际数据集分析说明了 PGQR 的有效性。实现我们方法的代码可在 https://github.com/shijiew97/PGQR 获取。
引用
@article{arxiv.2301.03661,
title = {Generative Quantile Regression with Variability Penalty},
author = {Shijie Wang and Minsuk Shin and Ray Bai},
journal= {arXiv preprint arXiv:2301.03661},
year = {2023}
}
备注
41 pages, 17 figures, 4 tables. New version includes more simulation studies, comparisons to competing methods, illustrations, real data applications, and discussion of the vanishing variability phenomenon and overparameterization in deep learning. The figures are higher-resolution, and the presentation and writing have improved