论神经网络中的不确定性原理
机器学习
2025-01-17 v4 计算物理
量子物理
摘要
在本研究中，我们探讨了神经网络中准确性与鲁棒性之间的固有权衡，并与量子力学中的不确定性原理进行类比。我们提出，神经网络受到一种不确定性关系的约束，这表现为其在同时实现高准确性和对抗攻击鲁棒性方面存在根本性局限。通过数学证明与经验证据，我们表明这种权衡是训练过程中不同类别概念之间形成尖锐边界的自然结果。我们的发现揭示，作为量子物理基石的互补性原理同样适用于神经网络，对其同时学习共轭特征的能力施加了根本限制。同时，我们的工作表明，仅通过单一网络架构或大规模数据集来实现人类水平的智能可能存在固有局限。我们的工作为神经网络脆弱性的理论基础提供了新见解，并为设计更鲁棒的神经网络架构开辟了途径。
引用
@article{arxiv.2205.01493,
title = {On the uncertainty principle of neural networks},
author = {Jun-Jie Zhang and Dong-Xiao Zhang and Jian-Nan Chen and Long-Gang Pang and Deyu Meng},
journal= {arXiv preprint arXiv:2205.01493},
year = {2025}
}
备注
8 pages, 5 figures