FineDance:用于 3D 全身舞蹈生成的细粒度编舞数据集
计算机视觉与模式识别
2023-08-31 v4 声音
音频与语音处理
摘要
从给定音乐生成全身多流派舞蹈序列是一项具有挑战性的任务,原因在于现有数据集的局限性和细粒度手部运动及舞蹈流派的固有复杂性。为解决这些问题,我们提出 FineDance,其包含 14.6 小时的音乐-舞蹈配对数据,具有细粒度手部运动、细粒度流派(22 种舞蹈流派)和准确姿态。据我们所知,FineDance 是拥有最多舞蹈流派的规模最大的音乐-舞蹈配对数据集。此外,为解决先前方法中存在的单调且不自然的手部运动,我们提出一个全身舞蹈生成网络,其利用扩散模型的多样生成能力解决单调问题,并使用专家网络解决不真实问题。为进一步提升生成舞蹈的流派匹配度和长期稳定性,我们提出一个流派与连贯性感知检索模块。此外,我们提出一种名为流派匹配分数(Genre Matching Score)的新指标来评估舞蹈与音乐之间的流派匹配程度。定量与定性实验证明了 FineDance 的质量以及 FineNet 的顶尖性能。FineDance 数据集及更多定性样本可在我们的网站找到。
引用
@article{arxiv.2212.03741,
title = {FineDance: A Fine-grained Choreography Dataset for 3D Full Body Dance Generation},
author = {Ronghui Li and Junfan Zhao and Yachao Zhang and Mingyang Su and Zeping Ren and Han Zhang and Yansong Tang and Xiu Li},
journal= {arXiv preprint arXiv:2212.03741},
year = {2023}
}
备注
Accepted by ICCV 2023