揭示和控制 Transformer 中的异常注意力分布
机器学习
2024-07-04 v2 人工智能
摘要
基于 Transformer 架构的大型模型推出后，研究者们注意到注意力机制中存在一种异常现象——即对第一个元素的注意力极其高，这种现象在基于 Transformer 的模型中普遍存在。理解这一现象对于聚焦注意力分布的技术开发至关重要，例如关键值（KV）缓存压缩和无限外推；然而，其潜在原因尚不为人知。本文从“让位”现象的角度分析了这一现象，该现象涉及减少序列中某些元素的内部值，使其能够吸收过多的注意力而不影响其对信息的贡献。在具体模型中，由于位置编码和注意力模式的差异，我们发现模型对让位元素的选择可分为两类方法：基于位置编码的方法和基于元素内部特征分布的方法。
关键词
引用
@article{arxiv.2407.01601,
title = {Unveiling and Controlling Anomalous Attention Distribution in Transformers},
author = {Ruiqing Yan and Xingbo Du and Haoyu Deng and Linghan Zheng and Qiuzhuang Sun and Jifang Hu and Yuhang Shao and Penghao Jiang and Jinrong Jiang and Lian Zhao},
journal= {arXiv preprint arXiv:2407.01601},
year = {2024}
}