深度神经网络决策边界的若干几何与拓扑性质
机器学习
2021-04-19 v2 机器学习
摘要
决策区域的几何与拓扑与分类性能及对抗攻击的鲁棒性密切相关。本文利用微分几何从理论上探究深度神经网络（DNNs）所产生的决策区域的几何与拓扑性质。目标是获得给定DNN模型的决策边界的一些几何与拓扑性质，并为DNN的设计与正则化提供原则性指导。首先，我们根据网络参数给出决策边界的曲率，并给出网络参数产生平坦或可展决策边界的充分条件。基于微分几何中的高斯-博内-陈定理，我们随后提出一种计算紧致决策边界欧拉示性数的方法，并通过实验加以验证。
引用
@article{arxiv.2003.03687,
title = {Some Geometrical and Topological Properties of DNNs' Decision Boundaries},
author = {Bo Liu and Mengya Shen},
journal= {arXiv preprint arXiv:2003.03687},
year = {2021}
}