提升 Seq2Seq 模型指令跟随能力：DoLA 对 T5 的适配
计算与语言
2025-12-15 v2
摘要
编码器-解码器模型如 FLAN-T5 通过微调以遵循指令，但在指令与训练中固化的记忆延续性冲突时常常失败。为理解这种行为，我们对 FLAN-T5 适配 DoLA 并检视解码器中的表示如何演化。我们的发现表明，T5 的中间层会因对编码器的注意力而发生快速变化。当通过语言模型头部投影时，每个深度都呈现高度波动的 token 偏好，导致对比解码产生不可靠行为。基于此，我们引入一种基于梯度的激活引导方法，将“指令合规”方向注入中间解码器层，此处的表示既有意义又仍具可塑性。该干预显著提升了 MemoTrap 测试的性能（从 52% 提升至 99.7%），表明机制化引导在 Seq2Seq 架构中可以成功取代对比解码。
关键词
引用
@article{arxiv.2512.03803,
title = {Enhancing Instruction-Following Capabilities in Seq2Seq Models: DoLA Adaptations for T5},
author = {Huey Sun and Anabel Yong and Lorenzo Gilly and Felipe Jin},
journal= {arXiv preprint arXiv:2512.03803},
year = {2025}
}