面向混合现实远程呈现的互场景合成
人机交互
2022-04-04 v1 人工智能
计算机视觉与模式识别
摘要
通过下一代混合现实平台的远程呈现可为计算机中介通信提供更高水平的沉浸感,使参与者能够从事此前基于二维屏幕的通信方法所无法实现的广泛活动。然而,由于混合现实体验受限于各用户的本地物理环境,寻找一个用户可自由移动并相互交互的共同虚拟场地颇具挑战。本文提出一种新颖的互场景合成方法,以参与者的空间为输入,生成对应于所有参与者本地空间功能特征的虚拟合成场景。我们的方法将互功能优化模块与深度学习条件场景增强过程相结合,以生成对混合现实远程呈现场景中所有参与者在物理上可共同访问的场景。合成场景可具备互可行走、可坐和可工作的功能,且均对应于用户真实环境中的物理对象。我们使用 MatterPort3D 数据集进行实验,并开展对比用户研究以评估系统的有效性。结果表明,我们所提方法可成为面向下一代空间计算平台的情境化远程呈现系统的一个有前景的研究方向。
引用
@article{arxiv.2204.00161,
title = {Mutual Scene Synthesis for Mixed Reality Telepresence},
author = {Mohammad Keshavarzi and Michael Zollhoefer and Allen Y. Yang and Patrick Peluse and Luisa Caldas},
journal= {arXiv preprint arXiv:2204.00161},
year = {2022}
}
备注
11 pages