从子能力诊断到人类对齐生成：通过 MARKERGEN 弥合文本长度控制差距
计算与语言
2025-06-10 v3 人工智能
摘要
尽管大型语言模型（LLMs）取得了快速进展，但其长度可控文本生成（LCTG）能力仍低于预期，这构成了实际应用的主要限制。现有方法主要关注端到端训练以强化对长度约束的遵守。然而，缺乏对 LCTG 子能力的分解与针对性增强限制了进一步的发展。为了弥合这一差距，我们以人类模式为参考，对 LCTG 子能力进行了自下而上的分解，并进行了详细的错误分析。在此基础上，我们提出了 MarkerGen，一种简单而有效的即插即用方法，其：(1) 通过集成外部工具缓解 LLM 的基础缺陷；(2) 利用动态插入的标记进行显式长度建模；(3) 采用三阶段生成方案，在保持内容质量的同时更好地对齐长度约束。综合实验表明，MarkerGen 在各种设置下均显著提升了 LCTG，展现出卓越的有效性与泛化能力。
引用
@article{arxiv.2502.13544,
title = {From Sub-Ability Diagnosis to Human-Aligned Generation: Bridging the Gap for Text Length Control via MARKERGEN},
author = {Peiwen Yuan and Chuyi Tan and Shaoxiong Feng and Yiwei Li and Xinglin Wang and Yueqi Zhang and Jiayi Shi and Boyuan Pan and Yao Hu and Kan Li},
journal= {arXiv preprint arXiv:2502.13544},
year = {2025}
}