CAT-LLM:面向中文文章风格迁移的带文本风格定义的风格增强大语言模型
计算与语言
2025-06-09 v2
摘要
文本风格迁移在在线娱乐和社交媒体中扮演着至关重要的角色。然而,现有模型难以处理中文长文本的复杂性,如修辞、结构和文化内涵,这限制了其更广泛的应用。为弥合这一差距,我们提出了一个中文文章风格迁移(Chinese Article-style Transfer, CAT-LLM)框架,旨在应对复杂中文长文本风格迁移的挑战。CAT-LLM的核心是一个定制的可插拔文本风格定义(Text Style Definition, TSD)模块,该模块集成机器学习算法,在词级和句级层面分析和建模文章风格。此模块充当桥梁,使大语言模型(LLMs)能够更好地理解并适应中文文章风格的复杂性。此外,它支持内部风格树的动态扩展,使框架能够无缝整合新的多样化风格定义,增强了未来研究和应用的适应性与可扩展性。同时,为便于稳健评估,我们利用ChatGPT和多种中文文本创建了十个平行数据集,每个数据集对应不同的写作风格,显著提高了模型评估的准确性,并为文本风格迁移研究建立了新范式。大量实验结果表明,CAT-LLM与GPT-3.5-Turbo结合,达到了最先进的性能,在《围城》数据集上的迁移准确率F1分数为79.36%,内容保留F1分数为96.47%。这些结果凸显了CAT-LLM对风格迁移研究的创新贡献,包括其在实现精确灵活的不同中文文本领域风格迁移的同时,保持内容完整性的能力。基于这些贡献,CAT-LLM在推动中文数字媒体发展和促进自动化内容创作方面展现出巨大潜力。
引用
@article{arxiv.2401.05707,
title = {CAT-LLM: Style-enhanced Large Language Models with Text Style Definition for Chinese Article-style Transfer},
author = {Zhen Tao and Dinghao Xi and Zhiyu Li and Liumin Tang and Wei Xu},
journal= {arXiv preprint arXiv:2401.05707},
year = {2025}
}