人工神经元中的与/或权衡：对对抗鲁棒性的影响
机器学习
2023-05-23 v3 人工智能
密码学与安全
摘要
尽管神经网络取得成功，分类鲁棒性问题依然存在，尤其因对抗样本而凸显。在本文中，我们通过关注人工神经元所实现函数从纯 AND 门到纯 OR 门的连续统来应对此挑战。我们的假设是，网络中充分数量的类 OR 神经元会导致分类脆性及对抗攻击脆弱性的增加。我们定义了类 AND 神经元并提出了提高其网络中占比的措施。这些措施涉及将输入重缩放至 [-1,1] 区间，并减少 sigmoid 激活函数最陡区段中的点数。我们方法的关键组成部分是比较神经元在实际数据集与称为“打乱数据集”的随机化版本下的输出分布。在 MNIST 数据集上的实验结果表明，我们的方法作为进一步探索的一个方向颇具前景。
引用
@article{arxiv.2102.07389,
title = {And/or trade-off in artificial neurons: impact on adversarial robustness},
author = {Alessandro Fontana},
journal= {arXiv preprint arXiv:2102.07389},
year = {2023}
}