模拟小脑中的对抗鲁棒性评估
神经与进化计算
2021-06-29 v2 机器学习
摘要
众所周知，人工神经网络易受对抗样本的攻击，为此人们已付出巨大努力来提升其鲁棒性。然而，此类样本通常对人类而言难以察觉，因此它们对生物神经回路的影响在很大程度上尚属未知。本文将研究模拟小脑中的对抗鲁棒性，小脑是计算神经科学中一个被充分研究的监督学习系统。具体而言，我们提出研究小脑中揭示的三个独特特征：（i）网络宽度；（ii）平行纤维–浦肯野细胞突触上的长时程抑制；（iii）颗粒层中的稀疏连接，并假设它们有利于提升鲁棒性。据我们所知，这是首次尝试在模拟小脑模型中检验对抗鲁棒性。实验阶段的结果是否定的——所提出的三种机制均未发现鲁棒性有显著提升。因此，小脑预计会像批训练下的深度神经网络一样易受对抗样本攻击。我们鼓励神经科学家在实验中用对抗攻击来愚弄该生物系统。
引用
@article{arxiv.2012.02976,
title = {Evaluating adversarial robustness in simulated cerebellum},
author = {Liu Yuezhang and Bo Li and Qifeng Chen},
journal= {arXiv preprint arXiv:2012.02976},
year = {2021}
}
备注
18 pages, 3 figures, NeurIPS 2020 Preregistration Workshop