MetaScenes:面向真实世界三维扫描的自动化副本创建
计算机视觉与模式识别
2025-05-06 v1 人工智能
机器学习
机器人学
摘要
具身人工智能(EAI)研究需要高质量、多样化的三维场景,以有效支持技能获取、从仿真到现实的迁移以及泛化。然而,达到这些质量标准需要精确复制真实世界的物体多样性。现有数据集表明,这一过程严重依赖艺术家驱动的设计,这需要大量人力,并面临显著的可扩展性挑战。为了可扩展地生成逼真且可交互的三维场景,我们首先提出了MetaScenes,这是一个从真实世界扫描构建的大规模、可仿真的三维场景数据集,包含跨越831个细粒度类别的15366个物体。然后,我们引入了Scan2Sim,一个鲁棒的多模态对齐模型,它能够实现资产的自动化高质量替换,从而消除了在扩展三维场景时对艺术家驱动设计的依赖。我们进一步提出了两个基准来评估MetaScenes:一个专注于机器人操作的小物体布局的详细场景合成任务,以及一个视觉与语言导航(VLN)中的领域迁移任务,以验证跨领域迁移。结果证实了MetaScene通过支持更具泛化能力的智能体学习和从仿真到现实的应用来增强EAI的潜力,为EAI研究带来了新的可能性。项目网站:https://meta-scenes.github.io/。
引用
@article{arxiv.2505.02388,
title = {MetaScenes: Towards Automated Replica Creation for Real-world 3D Scans},
author = {Huangyue Yu and Baoxiong Jia and Yixin Chen and Yandan Yang and Puhao Li and Rongpeng Su and Jiaxin Li and Qing Li and Wei Liang and Song-Chun Zhu and Tengyu Liu and Siyuan Huang},
journal= {arXiv preprint arXiv:2505.02388},
year = {2025}
}
备注
CVPR 2025