基于动态质量评估的图-文本对齐学习:实现噪声鲁棒与可迁移
机器学习
2025-10-23 v1
摘要
在文本标记图(TAGs)上对图形基础模型(GFMs)进行预训练是Web范围应用(如搜索、推荐和知识发现)的核心任务。然而,现有的CLIP式图-文本对齐器面临两个关键局限:它们假设节点和文本之间存在严格的一对一对应关系,忽视了现实图中固有的多对多关系;它们依赖静态对齐目标,无法适应不同数据质量,导致在噪声监督下脆弱。这些局限性暴露了一个核心困境:拥抱富表现力的多对多对齐会放大噪声,而回归到严格的一对一策略又会牺牲语义多样性,无法处理本质上不匹配的配对。为此,我们提出ADAligner——一种动态、质量感知的图-文本对齐框架,能够根据监督质量动态调整在富表现力的多对多目标与保守的一对一目标之间的权衡。ADAligner实时估计批次级对齐可靠性,并根据优化进行相应调整,在监督干净时促进软的、子图级的多对多对齐;在噪声环境下通过动态筛选低置信度配对来强调可靠的一对一对齐。理论上,我们证明了这种动态机制形成稳定的负反馈过程,确保收敛和鲁棒性。广泛的实验在九个多样化的TAG数据集上表明,ADAligner在零/少样本节点分类、链接预测和跨模态检索任务上 consistently 优于现有的图-文本对齐器。它在噪声监督下保持强鲁棒性,并相较于多模态基线加快约2-3倍的预训练速度,为现实Web环境下的图-文本表示学习奠定了可扩展且可靠的基础。
引用
@article{arxiv.2510.19384,
title = {Learning Noise-Resilient and Transferable Graph-Text Alignment via Dynamic Quality Assessment},
author = {Yuhang Liu and Minglai Shao and Zengyi Wo and Yunlong Chu and Bing Hao and Shengzhong Liu and Ruijie Wang and Jianxin Li},
journal= {arXiv preprint arXiv:2510.19384},
year = {2025}
}