引导大型语言模型实现机器翻译个性化
计算与语言
2025-10-15 v2 人工智能
机器学习
摘要
大型语言模型简化了反映预定义风格约束的个性化翻译的生产。然而，当风格要求由一组示例（例如特定人类译者生成的文本）隐式表示时，这些系统仍然面临困难。在这项工作中，我们探索了在仅有少量示例可用时个性化自动生成翻译的各种策略，重点关注具有挑战性的文学翻译领域。我们首先确定该任务的可行性以及风格信息如何在模型表示中编码。然后，我们评估了各种提示策略和推理时干预措施，以引导模型生成朝向个性化风格，特别关注利用稀疏自编码器（SAE）潜变量进行对比引导，以识别显著的个性化属性。我们证明，对比式SAE引导能产生稳健的风格条件和翻译质量，从而获得比提示方法更高的推理时计算效率。我们进一步研究了引导对模型激活的影响，发现编码个性化属性的层受到提示和SAE引导的类似影响，表明两者背后存在相似的机制。
引用
@article{arxiv.2505.16612,
title = {Steering Large Language Models for Machine Translation Personalization},
author = {Daniel Scalena and Gabriele Sarti and Arianna Bisazza and Elisabetta Fersini and Malvina Nissim},
journal= {arXiv preprint arXiv:2505.16612},
year = {2025}
}