SplineCam:深度网络几何与决策边界的精确可视化与表征
计算机视觉与模式识别
2024-06-10 v2 机器学习
摘要
当前的深度网络(DN)可视化与可解释性方法严重依赖数据空间可视化,例如对数据中哪些维度导致其关联预测进行评分,或生成最能匹配给定DN单元或表示的新数据特征或样本。本文中,我们更进一步,开发了首个可证明精确的方法,用于计算DN映射的几何——包括其决策边界——在指定数据空间区域上。通过利用连续分段线性(CPWL)样条DN理论,SplineCam精确计算DN几何,而无需借助采样或架构简化等近似。SplineCam适用于任何基于CPWL非线性的DN架构,包括(带泄漏的)ReLU、绝对值、maxout和最大池化,也可应用于回归DN如隐式神经表示。除决策边界可视化与表征外,SplineCam还能够比较架构、度量泛化性,并从流形上或流形外的决策边界采样。项目网站:bit.ly/splinecam。
引用
@article{arxiv.2302.12828,
title = {SplineCam: Exact Visualization and Characterization of Deep Network Geometry and Decision Boundaries},
author = {Ahmed Imtiaz Humayun and Randall Balestriero and Guha Balakrishnan and Richard Baraniuk},
journal= {arXiv preprint arXiv:2302.12828},
year = {2024}
}
备注
11 pages, 20 figures