中文

轻量基准揭示零样态表格基础模型的隐藏硬件成本

机器学习 2025-12-17 v2 人工智能

摘要

零样态基础模型(FMs)承诺在表格数据上实现无训练预测,但其硬件足迹仍未得到充分刻画。我们提供一个完全可复现的基准,报告测试准确率及实际延迟、峰值 CPU 内存和峰值 GPU 内存占用,测试于四个公开数据集:Adult-Income、Higgs-100k、Wine-Quality 和 California-Housing。两种开源 FMs(TabPFN-1.0 和 TabICL-base)与经过调优的 XGBoost、LightGBM 和 Random Forest 基线在单张 NVIDIA T4 GPU 上进行比较。树集成模型在三个数据集上准确率均可equal或超越 FMs,while full-test batches 在 <= 0.40 秒内完成,仅需 <= 150 MB 内存,零 GPU 内存占用。TabICL 在 Higgs 上取得0.8个百分点的提升,但需约40,000倍的延迟(960秒)和9 GB GPU 内存。TabPFN 在 Wine 和 Housing 上匹配树模型的准确率,但峰值达到4 GB GPU 内存,无法处理完整的100k行 Higgs 表格。这些结果量化了当前表格 FMs 在硬件与准确率之间的重大权衡,并为面向效率导向的未来研究提供了开放基准。

关键词

引用

@article{arxiv.2512.00888,
  title  = {Light-Weight Benchmarks Reveal the Hidden Hardware Cost of Zero-Shot Tabular Foundation Models},
  author = {Ishaan Gangwani and Aayam Bansal},
  journal= {arXiv preprint arXiv:2512.00888},
  year   = {2025}
}

备注

ICML NewInML