GNN-MoE：基于GNN的参数高效域泛化补丁路由
计算机视觉与模式识别
2025-11-07 v1
摘要
域泛化 (DG) 旨在实现在未见域上的鲁棒视觉变换器 (ViT) 性能。高效地为 DG 适配预训练 ViT 具有挑战性;标准微调成本高昂且可能损害泛化性。我们提出了 GNN-MoE，通过使用高效Kronecker适配器构建的混合专家 (MoE) 框架来增强参数高效微调 (PEFT) 的 DG 能力。不同于基于token的路由，一种新型图神经网络 (GNN) 路由器 (GCN、GAT、SAGE) 作用于patch间图，对patch动态分配到专业专家。这种上下文感知的GNN路由利用patch间关系，实现对域迁移的更好适应。GNN-MoE 在多个DG基准测试中实现了最先进或竞争性能，同时保持高参数效率，凸显了基于图的上下文路由在稳健、轻量级DG中的实用性。
引用
@article{arxiv.2511.04008,
title = {GNN-MoE: Context-Aware Patch Routing using GNNs for Parameter-Efficient Domain Generalization},
author = {Mahmoud Soliman and Omar Abdelaziz and Ahmed Radwan and Anand and Mohamed Shehata},
journal= {arXiv preprint arXiv:2511.04008},
year = {2025}
}
备注
6 pages, 3 figures