面向真实应用场景中表格数据分类的网络嵌套网络
机器学习
2020-06-01 v2 机器学习
摘要
表格数据是我们的客户（涵盖零售、金融到电子商务）采用的最常见数据格式，表格数据分类对其业务起着至关重要的作用。本文提出 Network On Network（NON），一种基于深度神经网络的实用表格数据分类模型，以提供准确预测。已有多种深度方法被提出并取得可喜进展。然而，多数方法使用神经网络与因子分解机等操作直接融合不同特征的嵌入，并将这些操作的输出线性组合得到最终预测。因此，字段内信息以及这些操作（如神经网络与因子分解机）之间的非线性交互被忽略。字段内信息指同一字段内的特征属于相同字段。NON 旨在充分利用字段内信息与非线性交互。它由三部分组成：底部的字段级网络以捕获字段内信息，中部的跨字段网络以数据驱动方式选择合适操作，顶部的操作融合网络以深度融合所选操作的输出。在六个真实世界数据集上的大量实验表明 NON 能显著优于最先进模型。此外，对嵌入空间中特征的定性与定量研究均显示 NON 能有效捕获字段内信息。
引用
@article{arxiv.2005.10114,
title = {Network On Network for Tabular Data Classification in Real-world Applications},
author = {Yuanfei Luo and Hao Zhou and Weiwei Tu and Yuqiang Chen and Wenyuan Dai and Qiang Yang},
journal= {arXiv preprint arXiv:2005.10114},
year = {2020}
}