DreamDPO：通过直接偏好优化将文本到 3D 生成与人类偏好对齐
计算与语言
2025-02-10 v1 图形学
机器学习
摘要
文本到 3D 生成能够根据文本描述自动创建 3D 内容，这在各个领域都具有变革性的潜力。然而，现有方法往往难以将生成的内容与人类偏好对齐，限制了其适用性和灵活性。为了解决这些局限性，在本文中，我们提出了 DreamDPO，一个基于优化的框架，通过直接偏好优化将人类偏好集成到 3D 生成过程中。在实践中，DreamDPO 首先构建成对示例，然后使用奖励模型或大型多模态模型比较它们与人类偏好的一致性，最后使用偏好驱动的损失函数优化 3D 表示。通过利用成对比较来反映偏好，DreamDPO 减少了对精确逐点质量评估的依赖，同时通过偏好引导的优化实现了细粒度的可控性。实验表明，DreamDPO 取得了有竞争力的结果，并且与现有方法相比，提供了更高质量和更可控的 3D 内容。代码和模型将开源。
引用
@article{arxiv.2502.04370,
title = {DreamDPO: Aligning Text-to-3D Generation with Human Preferences via Direct Preference Optimization},
author = {Zhenglin Zhou and Xiaobo Xia and Fan Ma and Hehe Fan and Yi Yang and Tat-Seng Chua},
journal= {arXiv preprint arXiv:2502.04370},
year = {2025}
}
备注
20 pages, 12 figures