GAMformer：连接表格基础模型与可解释机器学习
机器学习
2026-02-06 v2 机器学习
摘要
尽管可解释性对 safety-critical 领域的机器学习应用以及监管合规至关重要，但现有的表格基础模型如 TabPFN 缺乏透明度。广义可加模型（GAMs）通过其可加结构提供了所需的可解释性，但传统 GAM 方法依赖于迭代学习算法（如样条、提升树或神经网络），这些方法在根本上与基础模型的 in-context 学习范式不兼容。本文介绍 GAMformer，这是首个用于 GAMs 的表格基础模型，旨在弥合基础模型力量与关键实际应用可解释性需求之间的差距。GAMformer 通过 in-context 学习在单次前向传播中估计 GAM 形状函数，这标志着对传统迭代方法的重大离开。基于前期研究，GAMformer 仅在人工生成的表格上进行训练，以防止数据泄露。我们的实验表明，GAMformer 在各种分类基准任务上与其他领先 GAM 方法相当。
引用
@article{arxiv.2410.04560,
title = {GAMformer: Bridging Tabular Foundation Models and Interpretable Machine Learning},
author = {Andreas Mueller and Julien Siems and Harsha Nori and David Salinas and Arber Zela and Rich Caruana and Frank Hutter},
journal= {arXiv preprint arXiv:2410.04560},
year = {2026}
}
备注
22 pages, 15 figures