中文

TabPFN-2.5:推进表格基础模型的技术前沿

机器学习 2026-02-06 v2 机器学习

摘要

首个表格基础模型TabPFN及其继任者TabPFNv2对表格AI产生了重大影响,数十种方法基于其构建,数百种应用覆盖了不同的用例。本报告介绍了TabPFN-2.5,这是我们表格基础模型的下一代版本,专为多达50,000个数据点和2,000个特征的数据集而构建,与TabPFNv2相比数据单元增加了20倍。TabPFN-2.5现在是行业标准基准TabArena(包含多达100,000个训练数据点的数据集)的领先方法,其性能显著优于经过调优的基于树的模型,并与AutoGluon 1.4的准确率相匹配,后者是一个复杂的、耗时四小时调优的集成,甚至包含了之前的TabPFNv2。值得注意的是,在中小型分类数据集(<=10,000个数据点,500个特征)上,默认的TabPFN-2.5对默认的XGBoost拥有100%的胜率,在多达100K样本和2K特征的更大数据集上拥有87%的胜率(回归任务为85%)。对于生产用例,我们引入了一个新的蒸馏引擎,将TabPFN-2.5转换为紧凑的MLP或树集成,在保持其大部分准确率的同时,提供数量级更低的延迟和即插即用的部署。这一新版本将立即增强已基于TabPFN生态系统构建的众多应用和方法的性能。

关键词

引用

@article{arxiv.2511.08667,
  title  = {TabPFN-2.5: Advancing the State of the Art in Tabular Foundation Models},
  author = {Léo Grinsztajn and Klemens Flöge and Oscar Key and Felix Birkel and Philipp Jund and Brendan Roof and Benjamin Jäger and Dominik Safaric and Simone Alessi and Adrian Hayler and Mihir Manium and Rosen Yu and Felix Jablonski and Shi Bin Hoo and Anurag Garg and Jake Robertson and Magnus Bühler and Vladyslav Moroshan and Lennart Purucker and Clara Cornu and Lilly Charlotte Wehrhahn and Alessandro Bonetto and Bernhard Schölkopf and Sauraj Gambhir and Noah Hollmann and Frank Hutter},
  journal= {arXiv preprint arXiv:2511.08667},
  year   = {2026}
}