nanoTabPFN：TabPFN 的轻量级教学复现版
机器学习
2025-12-19 v2
摘要
诸如 TabPFN 之类的表格基础模型已经彻底改变了表格数据的预测性机器学习。然而，这场变革背后的驱动因素却难以理解。现有的开源表格基础模型在复杂的流程中实现，拥有超过 10,000 行代码，缺乏架构文档或代码质量保证。简而言之，这些实现难以理解、对初学者不友好，且难以适配新实验。我们介绍了 nanoTabPFN，这是 TabPFN v2 架构及其使用预生成训练数据的相应训练循环的简化和轻量级实现。nanoTabPFN 使表格基础模型对学生和研究人员都更易于接触。例如，在小数据设置下，它能在单 GPU 上进行一分钟的预训练即达到与传统机器学习基线相当的性能（比 TabPFN v2 预训练快 160,000 倍）。这种对大量计算资源需求的消除，使得表格基础模型的预训练能够用于教学目的。我们的代码可在 https://github.com/automl/nanoTabPFN 获取。
引用
@article{arxiv.2511.03634,
title = {nanoTabPFN: A Lightweight and Educational Reimplementation of TabPFN},
author = {Alexander Pfefferle and Johannes Hog and Lennart Purucker and Frank Hutter},
journal= {arXiv preprint arXiv:2511.03634},
year = {2025}
}