内在生物合理对抗鲁棒性
机器学习
2024-06-04 v5
摘要
采用反向传播（BP）训练的人工神经网络（ANNs）在不同日常任务中表现出色，但存在一个危险漏洞：带有微小定向扰动的输入（即对抗样本）可严重破坏其性能。对抗训练——一种用典型对抗样本增广训练数据集的技术——被证明可缓解此问题，但计算成本高昂。与 ANNs 不同，人类不易误分类这些相同的对抗样本。因此可假设，生物合理训练的 ANNs 可能对对抗攻击更具鲁棒性。本工作中，我们选取生物合理学习算法“呈现误差以扰动输入从而调节活动”（PEPITA）作为案例，通过与 BP 训练的 ANNs 在各种计算机视觉任务上的比较分析来探究该问题。我们观察到 PEPITA 具有更高的内在对抗鲁棒性，且在对抗训练时具有更有利的自然-对抗性能权衡。特别是在 MNIST 任务上相同自然准确率下，PEPITA 的对抗准确率平均仅下降 0.26%，而 BP 下降 8.05%。
引用
@article{arxiv.2309.17348,
title = {Intrinsic Biologically Plausible Adversarial Robustness},
author = {Matilde Tristany Farinha and Thomas Ortner and Giorgia Dellaferrera and Benjamin Grewe and Angeliki Pantazi},
journal= {arXiv preprint arXiv:2309.17348},
year = {2024}
}