TinyStyler：基于作者嵌入的高效零样文本风格迁移
计算与语言
2024-11-08 v2
摘要
文本风格迁移的目标是在保持原始语义的前提下，转换文本的风格，通常只需少量的目标风格示例。现有的风格迁移方法通常依赖于大型语言模型的零样能力，或依赖于复杂且效率不高的可控文本生成方法，在流畅性指标上表现不佳。我们引入 TinyStyler，一种轻量且有效的方法，利用小型语言模型（800M 参数）和预训练的作者嵌入来执行高效、零样文本风格迁移。我们在作者风格迁移这一具有挑战性的任务上进行评估，发现 TinyStyler 在众多方法（包括 GPT-4）中表现更佳。我们还评估了 TinyStyler 执行文本属性风格迁移（正式 ↔ 非正式）的能力，通过自动和人类评估发现该方法在最新可控文本生成方法中表现更出色。我们的模型已在 https://huggingface.co/tinystyler/tinystyler 上公开发布。
关键词
引用
@article{arxiv.2406.15586,
title = {TinyStyler: Efficient Few-Shot Text Style Transfer with Authorship Embeddings},
author = {Zachary Horvitz and Ajay Patel and Kanishk Singh and Chris Callison-Burch and Kathleen McKeown and Zhou Yu},
journal= {arXiv preprint arXiv:2406.15586},
year = {2024}
}