UltraGen：通过属性重建和全局偏好优化实现极度细粒度可控生成
计算与语言
2025-02-19 v1
摘要
细粒度可控文本生成是当前技术的核心需求, 但现有方法仅聚焦于少量属性(通常 3-5 个), 当属性数量扩大至数量级时性能显著下降。为此, 本文提出一种新颖的零样本极度细粒度可控生成(EFCG)方法, 包含自动重建(AR)与全局偏好优化(GPO)两个阶段。AR 阶段利用大语言模型从原始文本中提取软属性(如 '在设计中强调简单与极简'), 并结合程序化硬属性(如 '文本长度在 300-400 字之间')构建约 45 项多属性要求, 在弱监督条件下指导细粒度文本重建。GPO 阶段应用直接偏好优化(DPO)对多属性组合下的文本生成进行精细化, 实现对全局组合空间的高效探索。此外, 本文引入高效属性抽样策略以识别并纠正潜在错误属性, 进一步提升全局优化效果。该框架通过消除位置偏差和缓解注意力稀释, 显著提升 EFCG 的约束满足率(CSR)和文本质量。
引用
@article{arxiv.2502.12375,
title = {UltraGen: Extremely Fine-grained Controllable Generation via Attribute Reconstruction and Global Preference Optimization},
author = {Longfei Yun and Letian Peng and Jingbo Shang},
journal= {arXiv preprint arXiv:2502.12375},
year = {2025}
}