SAG：通过模型协作实现风格对齐的文章生成
计算与语言
2024-10-07 v1
摘要
大语言模型（LLM）的不断发展增加了对个性化和风格化内容生成的需求。然而，闭源模型如 GPT-4 在优化机会方面存在局限，而开源替代方案如 Qwen-72B 的训练成本高昂且缺乏灵活性。相反，小型语言模型（SLM）在理解复杂指令和将已学习的能力迁移到新情境方面常常不足，往往表现出更明显的局限性。本文提出一种新型协作训练框架，利用 LLM 和 SLM 的优势协同完成风格化文章生成，超越单一模型的性能。我们冻结 LLM 以发挥其强大的指令遵循能力，并针对特定风格数据对 SLM 进行监督式微调。此外，我们引入一种自我改进方法以提高风格一致性。我们构建了新的基准测试 NoteBench，全面评估风格对齐的生成。广泛的实验表明，我们的方法在性能上实现了最先进水平，ROUGE-L 提升了 0.78，BLEU-4 提升了 0.55 分，同时保持了较低的幻觉率，关于事实和忠实性方面表现良好。
引用
@article{arxiv.2410.03137,
title = {SAG: Style-Aligned Article Generation via Model Collaboration},
author = {Chenning Xu and Fangxun Shu and Dian Jin and Jinghao Wei and Hao Jiang},
journal= {arXiv preprint arXiv:2410.03137},
year = {2024}
}