HyperFast：表格数据的即时分类
机器学习
2024-02-23 v1 人工智能
机器学习
摘要
训练深度学习模型和执行超参数调整可能计算量大且耗时。与此同时，传统的机器学习方法（如梯度提升算法）仍然是大多数表格数据应用的首选，而神经网络替代方案则需要广泛的超参数调整，或仅在有限设置下的玩具数据集上有效。在本文中，我们介绍了 HyperFast，这是一种经过元训练的超网络，旨在通过单次前向传播实现表格数据的即时分类。HyperFast 生成一个针对未见数据集定制的任务特定神经网络，可直接用于分类推理，无需训练模型。我们报告了使用 OpenML 和基因组数据进行的广泛实验，将 HyperFast 与竞争的表格数据神经网络、传统机器学习方法、AutoML 系统和提升机器进行了比较。HyperFast 显示出极具竞争力的结果，同时速度显著更快。此外，我们的方法展示了在各种分类任务中强大的适应性，几乎不需要微调，使 HyperFast 成为众多应用和快速模型部署的有力解决方案。HyperFast 引入了一种快速分类的新范式，有望大幅降低深度学习的计算负担。我们的代码（提供类似 scikit-learn 的接口）以及训练好的 HyperFast 模型可在 https://github.com/AI-sandbox/HyperFast 找到。
引用
@article{arxiv.2402.14335,
title = {HyperFast: Instant Classification for Tabular Data},
author = {David Bonet and Daniel Mas Montserrat and Xavier Giró-i-Nieto and Alexander G. Ioannidis},
journal= {arXiv preprint arXiv:2402.14335},
year = {2024}
}
备注
21 pages, 9 figures, AAAI 2024