基于自适应组Lasso的神经网络一致性特征选择
机器学习
2021-12-06 v3 机器学习
统计理论
统计理论
摘要
深度学习在医学与工程科学中广泛应用的一大障碍是其可解释性。虽然神经网络模型是进行预测的强有力工具，但它们往往很少提供关于哪些特征对预测精度有显著影响的信息。为克服这一问题，人们提出了许多用于神经网络学习的正则化方法来剔除不显著特征。遗憾的是，缺乏理论结果令人怀疑此类流程的适用性。在本工作中，我们提出并建立了使用自适应组lasso（adaptive group lasso）选择神经网络重要特征的理论保证。具体而言，我们证明了我们的特征选择方法对具有一个隐藏层和双曲正切激活函数的单输出前馈神经网络是一致性的。我们通过模拟和数据分析展示了其适用性。
引用
@article{arxiv.2006.00334,
title = {Consistent feature selection for neural networks via Adaptive Group Lasso},
author = {Vu Dinh and Lam Si Tung Ho},
journal= {arXiv preprint arXiv:2006.00334},
year = {2021}
}