中文

SynPlay:大规模合成人类数据集,具备真实世界多样性用于航空视角感知

计算机视觉与模式识别 2025-12-02 v2

摘要

我们介绍SynPlay,这是一个大规模合成人类数据集,专为推动多视角人类定位而构建,主要聚焦航空视角感知。SynPlay不同于传统合成数据集,致力于解决一个关键但被忽视的挑战:在航空场景中定位人类(通常仅占图像中十几个像素)。在此情境下,面部特征或纹理等细粒度细节变得不重要,识别任务转向人类运动、行为及其相互作用。为满足这一需求,SynPlay实现了一种新型规则导引运动生成框架,将真实运动捕捉与运动演化图谱相结合。此设计使人类动作能够通过高层游戏规则而非预定义脚本动态演化,产生实际不可数数量的运动变体。与现有合成数据集(要么聚焦静态视觉特征,要么重复使用有限的mocap驱动动作)不同,SynPlay捕获了从静态到动态的广泛行为谱系,包括从无脚本游戏情境中自然涌现的复杂互动。SynPlay还引入了广泛的多摄像机 setup,覆盖随机高度的无人机(UAV)、监控摄像机(CCTV)以及自由巡游的地面运动机器人(UGV),实现了从近到远的真实视角覆盖。数据集中绝大部分实例来自航空视角,不同尺度下呈现,直接支持长距离人类分析模型的开发——这是现有数据集所不足之处。我们的数据包含超过73,000张图像和650万个人类实例,提供检测、分割和关键点等详细标注。大量实验表明,使用SynPlay训练可显著提升人类定位性能,尤其在少样本和数据稀缺场景中效果尤为突出。

关键词

引用

@article{arxiv.2408.11814,
  title  = {SynPlay: Large-Scale Synthetic Human Data with Real-World Diversity for Aerial-View Perception},
  author = {Jinsub Yim and Hyungtae Lee and Sungmin Eum and Yi-Ting Shen and Yan Zhang and Heesung Kwon and Shuvra S. Bhattacharyya},
  journal= {arXiv preprint arXiv:2408.11814},
  year   = {2025}
}

备注

Project Page: https://synplaydataset.github.io/