通用 Transformer 的注意力流
机器学习
2022-06-01 v1
摘要
在本文中，我们研究如何计算 Transformer 模型中一个输入词元对其预测的影响程度。我们形式化了一种方法，从仅编码器 Transformer 模型的注意力值构建流网络，并将其推广到包含自回归解码器的通用 Transformer 架构。我们证明，在流网络构造上运行最大流算法可得到 Shapley 值，该值决定了合作博弈论中参与者的贡献。通过将流网络中的输入词元解释为参与者，我们可以计算它们对导向解码器决策的总注意力流的影响。此外，我们提供了一个可计算并可视化任意 Transformer 模型注意力流的库。我们在自然语言处理与推理任务上训练的各种模型上展示了我们实现的有用性。
引用
@article{arxiv.2205.15389,
title = {Attention Flows for General Transformers},
author = {Niklas Metzger and Christopher Hahn and Julian Siber and Frederik Schmitt and Bernd Finkbeiner},
journal= {arXiv preprint arXiv:2205.15389},
year = {2022}
}