预训练 Transformer 中的知识神经元
计算与语言
2022-03-11 v2
摘要
大规模预训练语言模型在回忆训练语料中呈现的事实性知识方面出奇地出色。在本文中，我们通过引入知识神经元的概念，对事实性知识如何存储在预训练 Transformer 中进行了初步研究。具体而言，我们考察了 BERT 的完形填空（fill-in-the-blank cloze）任务。给定一个关系事实，我们提出一种知识归因方法来识别表达该事实的神经元。我们发现，此类知识神经元的激活与其对应事实的表达呈正相关。在我们的案例研究中，我们尝试利用知识神经元来编辑（如更新和擦除）特定事实性知识而无需微调。我们的结果有助于理解预训练 Transformer 内部知识的存储方式。代码可在 https://github.com/Hunter-DDM/knowledge-neurons 获取。
引用
@article{arxiv.2104.08696,
title = {Knowledge Neurons in Pretrained Transformers},
author = {Damai Dai and Li Dong and Yaru Hao and Zhifang Sui and Baobao Chang and Furu Wei},
journal= {arXiv preprint arXiv:2104.08696},
year = {2022}
}
备注
ACL 2022