面向时空分布外问题的不变链路选择器
机器学习
2025-06-02 v1 人工智能
摘要
在基础模型时代，分布外（OOD）问题，即训练环境与测试环境之间的数据差异，阻碍了AI的泛化。此外，图等违反独立同分布（IID）条件的关系数据使该问题更具挑战性，当其与时间相关时尤为困难。受此启发，为了在时序图上实现鲁棒的不变学习，我们希望研究时序图中哪些组件相对于标签是最不变且最具代表性的。借助信息瓶颈（IB）方法，我们提出了一种误差有界的不变链路选择器，它能够在训练过程中区分不变组件与变异组件，使深度学习模型能够泛化至不同的测试场景。除了推导一系列严格的可泛化优化函数外，我们还在训练中配备了任务特定的损失函数（例如时序链路预测），使预训练模型能够解决现实应用任务，如引用推荐和商品推荐，正如我们在使用最先进（SOTA）方法的实验中所展示的那样。我们的代码可在 https://github.com/kthrn22/OOD-Linker 获取。
引用
@article{arxiv.2505.24178,
title = {Invariant Link Selector for Spatial-Temporal Out-of-Distribution Problem},
author = {Katherine Tieu and Dongqi Fu and Jun Wu and Jingrui He},
journal= {arXiv preprint arXiv:2505.24178},
year = {2025}
}
备注
Accepted by AISTATS 2025. 22 pages, 2 figures, 6 tables