用广义似然比方法训练人工神经网络：探索类脑学习以提升鲁棒性
机器学习
2019-07-12 v2 人工智能
机器学习
摘要
在这项工作中，我们提出一种广义似然比方法，能够训练具有某些生物类脑机制的人工神经网络，例如（a）由损失值学习，（b）经由具有不连续激活与损失函数的神经元学习。传统反向传播方法无法训练具有上述类脑学习机制的人工神经网络。数值结果表明，当输入数据同时受到自然噪声与对抗攻击影响时，由新方法训练的各种人工神经网络的鲁棒性显著提升。代码可用：\url{https://github.com/LX-doctorAI/GLR_ADV}。
引用
@article{arxiv.1902.00358,
title = {Training Artificial Neural Networks by Generalized Likelihood Ratio Method: Exploring Brain-like Learning to Improve Robustness},
author = {Li Xiao and Yijie Peng and Jeff Hong and Zewu Ke and Shuhuai Yang},
journal= {arXiv preprint arXiv:1902.00358},
year = {2019}
}
备注
12 pages, 7 figures, 2 tables