Instruction-tuning length control mechanism cross-lingual analysis
计算与语言
2025-09-03 v1 人工智能
摘要
遵循明确长度约束（如生成特定字数文本）是大型语言模型(LLM)面临的重要挑战。本研究旨在探讨基础模型与其指令微调模型在英语和意大利语长度控制文本生成中的差异。我们分析了性能及内部组件贡献，采用源自直接逻辑归因的累积加权归因(Cumulative Weighted Attribution)指标。我们的发现表明，指令微调显著提升长度控制，主要通过专门化较深层模型中的组件实现。具体而言，IT 模型较深层的注意力头贡献呈递增正向作用，尤其在英语中。意大利语方面，注意力贡献较弱，但最终层的 MLP 在更强的正向作用，暗示存在补偿机制。这些结果表明，指令微调重新配置后续层以实现任务遵循，组件级策略可能适应语言语境。
引用
@article{arxiv.2509.02075,
title = {How Instruction-Tuning Imparts Length Control: A Cross-Lingual Mechanistic Analysis},
author = {Elisabetta Rocchetti and Alfio Ferrara},
journal= {arXiv preprint arXiv:2509.02075},
year = {2025}
}