中文

魔鬼在边缘:用于场景图生成的选择性四元注意力

计算机视觉与模式识别 2023-04-10 v1

摘要

场景图生成旨在从图像中构建语义图结构,其节点与边分别表示物体及其关系。该任务的主要挑战之一在于图像中存在分散注意力的物体与关系;上下文推理被无关物体或背景严重分散,而更重要的是被大量无关候选关系分散。为解决该问题,我们提出选择性四元注意力网络(SQUAT),其学习选择相关物体对并通过多样上下文交互消除其歧义。SQUAT 由两个主要组件构成:边选择与四元注意力。边选择模块选择相关物体对,即场景图中的边,这有助于上下文推理;随后四元注意力模块利用边到节点与边到边的交叉注意力更新边特征,以捕获物体与物体对之间的上下文信息。实验证明了 SQUAT 的强劲性能与鲁棒性,在 Visual Genome 与 Open Images v6 基准上达到了当前最优(state of the art)。

关键词

引用

@article{arxiv.2304.03495,
  title  = {Devil's on the Edges: Selective Quad Attention for Scene Graph Generation},
  author = {Deunsol Jung and Sanghyun Kim and Won Hwa Kim and Minsu Cho},
  journal= {arXiv preprint arXiv:2304.03495},
  year   = {2023}
}

备注

Accepted at CVPR 2023; Project page at https://cvlab.postech.ac.kr/research/SQUAT/