论技能神经元与提示微调鲁棒性之间的关系
计算与语言
2024-03-26 v2
摘要
Prompt Tuning（提示微调）是一种流行的预训练大语言模型（PLM）的参数高效微调方法。基于 RoBERTa 的实验，有研究指出 Prompt Tuning 会激活 transformer 前馈网络中特定于给定任务且具高度预测性和选择性的神经元。本文中，我们使用 RoBERTa 和 T5 研究 Prompt Tuning 相对于这些“技能神经元”的鲁棒性。我们表明，为特定任务微调的提示可迁移至同类任务，但对对抗数据并不十分鲁棒。为 RoBERTa 微调的提示在对抗数据上表现低于随机水平，而为 T5 微调的提示稍具鲁棒性，在三种情况中有两种保留了高于随机水平的性能。同时，我们复现了 RoBERTa 中存在技能神经元的发现，并进一步表明 T5 中也存在技能神经元。有趣的是，在非对抗数据上确定的 T5 技能神经元同样是对抗数据上最具预测性的神经元之一，而 RoBERTa 并非如此。我们得出结论：更高的对抗鲁棒性可能与模型在对抗数据上持续激活相关技能神经元的能力有关。
引用
@article{arxiv.2309.12263,
title = {On the Relationship between Skill Neurons and Robustness in Prompt Tuning},
author = {Leon Ackermann and Xenia Ohmer},
journal= {arXiv preprint arXiv:2309.12263},
year = {2024}
}