针对少变量函数和时变数据的自适应组Lasso神经网络模型
机器学习
2021-12-06 v2 数值分析
数值分析
摘要
本文提出了一种自适应组Lasso深度神经网络，用于高维函数逼近，其中输入数据由动力系统生成，且目标函数依赖于少数活跃变量或变量的少数线性组合。我们通过深度神经网络逼近目标函数，并对一个合适的隐藏层的权重施加自适应组Lasso约束，以表示对目标函数的约束。我们利用近端算法来优化带惩罚项的损失函数。利用Bregman距离的非负性质，我们证明了所提出的优化过程实现了损失衰减。我们的实证研究表明，所提出的方法优于近期最先进的方法，包括稀疏字典矩阵方法、带或不带组Lasso惩罚的神经网络。
引用
@article{arxiv.2108.10825,
title = {Adaptive Group Lasso Neural Network Models for Functions of Few Variables and Time-Dependent Data},
author = {Lam Si Tung Ho and Nicholas Richardson and Giang Tran},
journal= {arXiv preprint arXiv:2108.10825},
year = {2021}
}