LLM Braces：利用相关子更新理顺 LLM 预测
计算与语言
2025-07-01 v2
摘要
近期发现表明，基于 Transformer 的大型语言模型 (LLM) 的大部分知识编码在其前馈 (FFN) 层中，其中每个 FFN 层可以解释为子更新的求和，每个子更新对应于 FFN 值参数矩阵中的一个加权列向量，这些向量通常编码人类可解释的概念。有鉴于此，我们假设通过根据这些子更新与输入或目标输出风格的相关性来调节其贡献，可以进一步增强和控制模型的性能与行为，并提出 LLMBRACES，这是一种新颖且高效的方法，它计算与 FFN 层中值向量相关的相关性得分，并利用这些得分动态调整子更新的贡献。通过优化子更新贡献，LLMBRACES 改进了预测过程，从而产生更准确和可靠的输出，就像提供支撑和稳定性的“牙套”一样。此外，LLMBRACES 可以扩展以支持对生成特性（如情感）的条件控制，从而实现对 LLM 输出的细粒度引导。在各种 LLM（包括 Qwen2.5-1.5B、Llama2-7B 和 Llama3-8B）上的大量实验表明，LLMBRACES 在微调和零样本设置中均优于基线方法，同时所需的可调参数显著减少，与 LoRA 相比最多减少 75%。此外，LLMBRACES 在情感控制生成和毒性降低方面表现出色，突显了其在跨应用的灵活、可控文本生成方面的潜力。
引用
@article{arxiv.2503.16334,
title = {LLM Braces: Straightening Out LLM Predictions with Relevant Sub-Updates},
author = {Ying Shen and Lifu Huang},
journal= {arXiv preprint arXiv:2503.16334},
year = {2025}
}
备注
ACL 2025, 16 pages, 2 figures