Transformer-Patcher：一错对应一神经元
计算与语言
2023-01-25 v1 人工智能
摘要
基于 Transformer 的大型预训练语言模型（PLM）主导了几乎所有自然语言处理（NLP）任务。尽管如此，它们仍不时犯错。对于部署在工业环境中的模型，快速且稳健地修复这些错误对改善用户体验至关重要。先前工作将此类问题形式化为模型编辑（ME），且多聚焦于修复单个错误。然而，单错修复场景并非对现实世界挑战的准确抽象。在 AI 服务部署中，错误不断涌现，若不及时纠正，同一错误可能反复出现。因此更优的方案是在错误出现时持续不断地予以修正。为此，我们将现有 ME 扩展为序列模型编辑（SME），以助力开发更实用的编辑方法。我们的研究表明，当前多数 ME 方法在该场景下会产生不尽人意的结果。随后我们引入 Transformer-Patcher，一种新颖的模型编辑器，可通过在最后的前馈网络层中简单添加并训练少数神经元来转移基于 transformer 的模型的行为。在分类与生成任务上的实验结果表明，Transformer-Patcher 能连续纠正多达数千个错误（可靠性），并泛化至其等价输入（泛化性），同时保持模型在无关输入上的准确率（局部性）。我们的方法优于先前的微调与基于 HyperNetwork 的方法，并在序列模型编辑（SME）上取得最先进性能。代码见 https://github.com/ZeroYuHuang/Transformer-Patcher。
引用
@article{arxiv.2301.09785,
title = {Transformer-Patcher: One Mistake worth One Neuron},
author = {Zeyu Huang and Yikang Shen and Xiaofeng Zhang and Jie Zhou and Wenge Rong and Zhang Xiong},
journal= {arXiv preprint arXiv:2301.09785},
year = {2023}
}
备注
accepted in ICLR 2023