中文

DNF-Net:一种面向表格数据的神经架构

机器学习 2020-06-12 v1 机器学习

摘要

深度学习中的一个具有挑战性的开放问题是如何处理表格数据。与图像和自然语言处理等领域由深度架构主导不同,目前仍没有一种被广泛接受的、在表格数据上占优的神经架构。作为缩小这一差距的一步,我们提出 DNF-Net,一种新颖的通用架构,其归纳偏置所诱导出的模型结构对应于基于仿射软阈值决策项的析取范式(DNF)逻辑布尔公式。此外,DNF-Net 促进了在特征的小子集上做出的局部化决策。我们给出了广泛的实证研究,表明 DNF-Net 在表格数据上显著且持续地优于全连接网络(FCN)。凭借相对较少的超参数,DNF-Net 为使用神经网络实际端到端处理表格数据打开了大门。我们给出了消融研究,论证了 DNF-Net 的设计选择,包括三个归纳偏置要素,即布尔公式、局部性和特征选择。

关键词

引用

@article{arxiv.2006.06465,
  title  = {DNF-Net: A Neural Architecture for Tabular Data},
  author = {Ami Abutbul and Gal Elidan and Liran Katzir and Ran El-Yaniv},
  journal= {arXiv preprint arXiv:2006.06465},
  year   = {2020}
}