KumoRFM-2：面向关系学习的基础模型规模化
机器学习
2026-04-15 v1 人工智能
摘要
我们介绍KumoRFM-2，这是面向关系数据预训练的下一代基础模型。KumoRFM-2支持原位学习以及微调，可适用于广泛的预测任务。与表格型基础模型不同，KumoRFM-2原生处理关系数据，能够在不进行手动表格展平或目标变量生成的情况下同时处理一个或多个相互连接的表格，同时保持时间一致性。KumoRFM-2利用大量合成和真实世界数据进行预训练，沿用四个维度：在individual table层面的行和列维度，在database层面的外键和跨样本维度。在与其前身相比，KumoRFM-2尽早注入任务信息，使其能够更精确地选择任务相关的列，并对噪声数据具有更好的鲁棒性。通过在41个具有挑战性的基准测试上的大量实验以及关于表达性和灵敏性的分析，我们展示KumoRFM-2在监督性方法和基础方法之间可提高最高8%，同时在极端冷启动和噪声数据情形下仍保持强性能。到我们知识，这是首次显示少量样本的基础模型在常见基准任务上超越监督性方法，微调后性能进一步提升。最后，尽管KumoRFM-1仅限于小规模内存数据集，KumoRFM-2可扩展至十亿规模的关系数据集。
引用
@article{arxiv.2604.12596,
title = {KumoRFM-2: Scaling Foundation Models for Relational Learning},
author = {Valter Hudovernik and Federico López and Vid Kocijan and Akihiro Nitta and Jan Eric Lenssen and Jure Leskovec and Matthias Fey},
journal= {arXiv preprint arXiv:2604.12596},
year = {2026}
}