DANets：面向表格数据分类与回归的深度抽象网络
机器学习
2022-09-08 v4 人工智能
摘要
表格数据在真实世界应用中无处不在。尽管机器学习界已开发许多常用神经组件（如卷积）与可扩展神经网络（如 ResNet），但其中极少对表格数据有效，也极少有设计充分贴合表格数据结构。本文提出一种新颖且灵活的表格数据神经组件，称为抽象层（Abstract Layer, AbstLay），它学习显式地将相关输入特征分组并为语义抽象生成更高层特征。我们还设计一种结构重参数化方法以压缩学到的 AbstLay，从而在推理阶段显著降低计算复杂度。使用 AbstLay 构建一种特殊基础块，并通过堆叠此类块构造了一系列用于表格数据分类与回归的深度抽象网络（Deep Abstract Networks, DANets）。在 DANets 中，引入一条特殊捷径路径以从原始表格特征获取信息，辅助不同层级间的特征交互。在七个真实世界表格数据集上的综合实验表明，我们的 AbstLay 与 DANets 对表格数据分类与回归有效，且计算复杂度优于竞争方法。此外，我们评估了 DANet 随深度增加带来的性能提升，验证了方法的可扩展性。我们的代码见 https://github.com/WhatAShot/DANet。
引用
@article{arxiv.2112.02962,
title = {DANets: Deep Abstract Networks for Tabular Data Classification and Regression},
author = {Jintai Chen and Kuanlun Liao and Yao Wan and Danny Z. Chen and Jian Wu},
journal= {arXiv preprint arXiv:2112.02962},
year = {2022}
}
备注
@inproceedings{danets, title={DANets: Deep Abstract Networks for Tabular Data Classification and Regression}, author={Chen, Jintai and Liao, Kuanlun and Wan, Yao and Chen, Danny Z and Wu, Jian}, booktitle={AAAI}, year={2022} }