人工神经网络智能评估
机器学习
2020-06-05 v1 人工智能
计算机视觉与模式识别
摘要
本工作的目的是开发用于评估平衡神经网络规模与任务性能的架构指标的度量方法。为此，引入神经效率（neural efficiency）概念以衡量神经层利用率，并创建了第二种称为人工智商（artificial intelligence quotient，aIQ）的度量来平衡神经网络性能与神经网络效率。为研究 aIQ 与神经效率，两个简单神经网络在 MNIST 上训练：全连接网络（LeNet-300-100）与卷积神经网络（LeNet-5）。aIQ 最高的 LeNet-5 网络准确率降低 2.32%，但参数量比最高准确率网络少 30,912 倍。发现批归一化层与 dropout 层均能提升神经效率。最后，高 aIQ 网络被证明具有抗记忆化与过训练能力，即便 75% 的类别标签被随机化，仍能以 92.51% 的准确率学习正确的数字分类。这些结果证明了 aIQ 与神经效率作为平衡网络性能与规模指标的有效性。
引用
@article{arxiv.2006.02909,
title = {Assessing Intelligence in Artificial Neural Networks},
author = {Nicholas J. Schaub and Nathan Hotaling},
journal= {arXiv preprint arXiv:2006.02909},
year = {2020}
}