莫奇(Mochi): 通过元学习对齐预训练与推理，以实现高效图基座模型
机器学习
2026-05-08 v2 人工智能
摘要
我们提出了莫奇(Mochi)，这是一种图基座模型，旨在通过采用基于元学习的训练框架来解决任务统一性和训练效率问题。先前的模型使用基于重建的目标进行预训练，如链接预测，假设由这些目标产生的表示可以通过单独的统一步骤（例如类别原型）与下游任务对齐。我们通过合成实验和真实世界实验表明，这一程序虽简单直观，但存在局限性，直接影响下游任务性能。为解决这些局限性，莫奇在反映下游评估协议的few-shot剧集上进行预训练，使训练目标与推理一致，而不是依赖后验统一步骤。我们表明，莫奇以及其更强大的变体莫奇++ (Mochi++) 在25个真实世界图数据集上（涵盖节点分类、链接预测和图分类），实现了与现有图基座模型相当或更好的性能，同时训练时间缩短了8~27倍。
关键词
引用
@article{arxiv.2604.22031,
title = {Mochi: Aligning Pre-training and Inference for Efficient Graph Foundation Models via Meta-Learning},
author = {João Mattos and Arlei Silva},
journal= {arXiv preprint arXiv:2604.22031},
year = {2026}
}
备注
23 pages, 7 figures