深度神经网络中偏置的几何起源：人类视觉系统视角
计算机视觉与模式识别
2025-07-28 v4 人工智能
摘要
深度神经网络（DNN）中的偏置形成仍然是一个关键但知之甚少的挑战，它影响着人工智能系统的公平性与可靠性。受人类视觉系统通过分层处理解耦物体流形以实现物体识别的启发，我们提出了一个几何分析框架，将 DNN 中特定类别感知流形的几何复杂性与模型偏置联系起来。我们的发现表明，几何复杂性的差异会导致不同类别间的识别能力不同，从而引入偏置。为支持这一分析，我们提出了 Perceptual-Manifold-Geometry 库，旨在计算感知流形的几何性质。该工具包已被下载和安装超过 4,500 次。这项工作为现代学习系统中的偏置形成提供了新颖的几何视角，并为开发更公平、更稳健的人工智能奠定了理论基础。
引用
@article{arxiv.2502.11809,
title = {Geometric Origins of Bias in Deep Neural Networks: A Human Visual System Perspective},
author = {Yanbiao Ma and Bowei Liu and Andi Zhang},
journal= {arXiv preprint arXiv:2502.11809},
year = {2025}
}