含非凸稀疏惩罚的分位数回归分布式平滑 ADMM 方法
机器学习
2024-08-12 v2
摘要
在快速演进的物联网（IoT）生态系统中，有效的数据分析技术对于处理传感器生成的分布式数据至关重要。针对现有方法（如次梯度方法）无法有效区分活跃与非活跃系数的局限性，本文提出了用于惩罚分位数回归的分布式平滑交替方向乘子法（DSAD）。我们的方法利用非凸稀疏惩罚，如极小极大凹惩罚（MCP）和平滑截断绝对偏差（SCAD），提高了显著预测因子的识别与保留能力。DSAD 在平滑 ADMM 框架中引入全变差范数，在分布式节点间达成共识，并确保在不同数据源上实现统一的模型性能。该方法克服了非凸惩罚在分布式设置中的传统收敛挑战。我们提供了理论证明和广泛的模拟结果来验证 DSAD 的有效性，展示了其在实现可靠收敛和提高估计精度方面相较于先前方法的优越性。
引用
@article{arxiv.2408.01307,
title = {Decentralized Smoothing ADMM for Quantile Regression with Non-Convex Sparse Penalties},
author = {Reza Mirzaeifard and Diyako Ghaderyan and Stefan Werner},
journal= {arXiv preprint arXiv:2408.01307},
year = {2024}
}