My3DGen:一种可扩展的个性化三维生成模型
计算机视觉与模式识别
2024-05-21 v4
摘要
近年来,生成式三维人脸模型(如 EG3D)已被开发用于解决合成照片级真实人脸的问题。然而,这些模型通常无法捕捉每个人独有的面部特征,凸显了个性化的重要性。一些先前工作展示了个性化生成人脸模型的潜力,但这些研究主要关注二维设定。此外,这些方法需要为每个用户微调并存储大量参数,对实现可扩展个性化构成阻碍。个性化的另一挑战是每个人可用的训练图像数量有限,这在使用全微调方法时常常导致过拟合。我们提出的方法 My3DGen 仅使用少至 50 张训练图像即可生成个人的个性化三维先验。My3DGen 允许新视角合成、给定人脸的语义编辑(例如添加微笑)以及合成新外观,同时保留原始人物身份。我们通过冻结预训练的 EG3D 并通过低秩分解训练额外的个性化权重,将三维面部特征解耦为全局特征与个性化特征。结果,My3DGen 每人仅引入 240K 个性化参数,与微调整个参数空间所需的 30.6M 相比,可训练参数减少 127 倍。尽管存储大幅减少,我们的模型在不损害下游应用质量的前提下保留身份特征。
引用
@article{arxiv.2307.05468,
title = {My3DGen: A Scalable Personalized 3D Generative Model},
author = {Luchao Qi and Jiaye Wu and Annie N. Wang and Shengze Wang and Roni Sengupta},
journal= {arXiv preprint arXiv:2307.05468},
year = {2024}
}
备注
Project page: https://luchaoqi.com/my3dgen/