CNN2GNN：如何将 CNN 与 GNN 桥接

Ziheng Jiao; Hongyuan Zhang; Xuelong Li

CNN2GNN：如何将 CNN 与 GNN 桥接

计算机视觉与模式识别 2024-04-24 v1 人工智能

作者: Ziheng Jiao , Hongyuan Zhang , Xuelong Li

摘要

尽管卷积神经网络（CNN）通过提取样本内表示在视觉任务中取得了优异的性能，但由于堆叠了大量卷积层，其训练成本较高。最近，作为双线性模型，图神经网络（GNN）已成功利用少量图神经网络层探索了图数据之间潜在拓扑关系。然而，由于缺乏图结构，它无法直接用于非图数据，并且在大规模场景下具有较高的推理延迟。受这些互补的优势和缺点的启发，我们讨论一个自然的问题：如何桥接这两种异构网络？在本文中，我们提出了一种新颖的 CNN2GNN 框架，通过知识蒸馏将 CNN 和 GNN 统一起来。首先，为了打破 GNN 的局限性，设计了一个可微稀疏图学习模块作为网络头部，以动态学习图用于归纳学习。然后，引入基于响应的蒸馏，将知识从 CNN 迁移到 GNN，并桥接这两种异构网络。值得注意的是，由于同时提取了单个实例的样本内表示和数据集之间的拓扑关系，蒸馏后的“增强型”两层 GNN 在 Mini-ImageNet 上的性能远高于包含数十层（如 ResNet152）的 CNN。

关键词

CNN GNN 知识蒸馏稀疏图学习归纳学习

引用

@article{arxiv.2404.14822,
  title  = {CNN2GNN: How to Bridge CNN with GNN},
  author = {Ziheng Jiao and Hongyuan Zhang and Xuelong Li},
  journal= {arXiv preprint arXiv:2404.14822},
  year   = {2024}
}

CNN2GNN：如何将 CNN 与 GNN 桥接

摘要

关键词

引用

相关论文