FIRE：使用表格基础模型进行多保真回归的分布条件 in-context 学习
机器学习
2026-02-02 v1
摘要
多保真（MF）回归常处于极端数据不平衡情境，常用的高斯过程（GP）替代模型在计算复杂度和对稀疏高保真观测的过拟合方面受限，限制了效率和在现实应用中的泛化能力。我们提出 FIRE，一个无训练的 MF 框架，将表格基础模型（TFM）与零-shot in-context 贝叶斯推断结合，通过高保真校正模型条件于低保真模型的后验预测分布。通过分布性摘要实现的跨保真信息传递捕获异方差误差，使残差学习在无需模型重新训练的情况下具有鲁棒性。在 31 个基准问题（包括合成和真实任务，如 DrivAerNet、LCBench）上，FIRE 在准确性和不确定性量化方面优于七种最先进的基于 GP 或深度学习的 MF 回归方法，具有运行时优势。局限性包括上下文窗口限制以及对预训练 TFM 质量的依赖。
引用
@article{arxiv.2601.22371,
title = {FIRE: Multi-fidelity Regression with Distribution-conditioned In-context Learning using Tabular Foundation Models},
author = {Rosen Ting-Ying Yu and Nicholas Sung and Faez Ahmed},
journal= {arXiv preprint arXiv:2601.22371},
year = {2026}
}