轻柔推动效果极佳：通过对比激活引导实现意大利语言指令模型
计算与语言
2024-11-28 v1 机器学习
摘要
适应仅在预训练数据中部分呈现的语言（如意大利语）需要微调，而这在数据和计算资源方面都昂贵。作为微调的替代方案，我们探索了基于激活引导技术来提高意大利语任务性能的潜力。通过我们的实验，我们展示了意大利语引导（i）能成功应用于不同模型，（ii）在意大利语方面实现与微调模型相当甚至更好的性能，（iii）产出更高质量和一致性的意大利语文本。我们还讨论了在当代大语言模型(LLM)环境中，模型即使未在意大利语上训练，仍能获得高水平意大利语性能时，引导与微调的实用性。
引用
@article{arxiv.2411.18247,
title = {A gentle push funziona benissimo: making instructed models in Italian via contrastive activation steering},
author = {Daniel Scalena and Elisabetta Fersini and Malvina Nissim},
journal= {arXiv preprint arXiv:2411.18247},
year = {2024}
}