具有自适应变量选择的深度变量块链
机器学习
2024-08-07 v2 机器学习
摘要
深度神经网络（DNN）的架构严重依赖于变量的底层网格结构，例如图像中像素的晶格。对于变量不与网格相关联的通用高维数据，常使用多层感知机与深度信念网络。然而，经常观察到这些网络表现缺乏竞争力，且它们无助于识别重要变量。在本文中，我们提出一种框架，通过逐步贪心搜索将链结构强加于变量块上，使得 DNN 架构能够利用所构造的网格。我们称这一新神经网络为深度变量块链（DVC）。由于变量块以顺序方式用于分类，我们进一步开发了根据由决策树训练的若干区域自适应选择变量的能力。我们的实验表明 DVC 优于其他通用 DNN 与其他强分类器。此外，DVC 能在大幅降低的维数下达到高精度，且有时为不同区域揭示出显著不同的相关变量集合。
引用
@article{arxiv.1912.03573,
title = {Deep Variable-Block Chain with Adaptive Variable Selection},
author = {Lixiang Zhang and Lin Lin and Jia Li},
journal= {arXiv preprint arXiv:1912.03573},
year = {2024}
}
备注
24 pages, 5 figures