中文

SG-Tailor:场景图中基于对象间常识关系的推理

计算机视觉与模式识别 2025-03-26 v1 人工智能 机器学习 机器人学

摘要

场景图捕捉对象之间复杂的关系,作为内容生成和操作的强先验。然而,对场景图进行合理的操控——无论是添加节点还是修改边缘——仍是一个具有挑战性且未被充分关注的任务。诸如添加节点或推理节点与其他所有节点的关系等任务计算上几乎不可实现,因为即使修改单条边也可能引发冲突,由于图中复杂的相互依赖性。为此,我们引入 SG-Tailor,一种自回归模型,用于预测任意两个节点之间的无冲突关系。SG-Tailor 不仅推断对象间关系,包括为新添加的节点生成常识边缘,还解决因边缘修改引发的冲突,以产生连贯的操控图,用于下游任务。对于节点添加,模型查询目标节点和图中其他节点,以预测合适的关系。对于边缘修改,SG-Tailor 采用 Cut-And-Stitch 策略解决冲突并全局调整图。广泛的实验表明,SG-Tailor 在与竞争方法相比上以显著优势表现,并可无缝集成为场景生成和机器人操控任务的插件模块。

关键词

引用

@article{arxiv.2503.18988,
  title  = {SG-Tailor: Inter-Object Commonsense Relationship Reasoning for Scene Graph Manipulation},
  author = {Haoliang Shang and Hanyu Wu and Guangyao Zhai and Boyang Sun and Fangjinhua Wang and Federico Tombari and Marc Pollefeys},
  journal= {arXiv preprint arXiv:2503.18988},
  year   = {2025}
}

备注

The code will be available at https://github.com/josef5838/SG-Tailor