小样本学习是否遭受后门攻击？

小样本学习（FSL）在训练数据有限的场景中显示出有前景的结果，但其对后门攻击的脆弱性尚未得到充分探索。我们首先通过评估现有后门攻击方法在小样本学习场景中的性能来探索这一主题。与标准监督学习不同，现有后门攻击方法在FSL中无法有效实施攻击，原因有两个主要问题。首先，模型倾向于过拟合良性特征或触发器特征，导致攻击成功率和良性准确率之间难以权衡。其次，由于训练样本数量少，支持集中的脏标签或可见触发器容易被受害者检测到，降低了攻击的隐蔽性。似乎FSL能够抵御后门攻击。然而，在本文中，我们提出了小样本学习后门攻击（FLBA）来表明FSL仍然容易受到后门攻击。具体地，我们首先生成一个触发器，以最大化中毒特征与良性特征之间的差距。这使得模型能够同时学习良性特征和触发器特征，解决了过拟合问题。为了提高隐蔽性，我们通过优化两种类型的不可感知扰动（即吸引扰动和排斥扰动）来隐藏触发器，而不是直接附加触发器。一旦获得扰动，我们可以将良性支持集中的所有样本中毒为隐藏的中毒支持集，并在其上微调模型。我们的方法在具有不同小样本学习范式的FSL任务中展示了高攻击成功率（ASR），同时保持了干净准确率和隐蔽性。这项研究表明小样本学习仍然遭受后门攻击，其安全性应受到关注。