面向复杂网络深度表示的几何与拓扑推断
机器学习
2022-03-15 v2 几何拓扑
神经元与认知
摘要
理解复杂网络的深度表示是在互联网时代构建可解释且可信赖的机器学习应用的重要一步。近似黑盒模型（例如人工或生物神经网络）预测的全局代理模型通常用于为模型可解释性提供有价值的理论见解。为了评估代理模型在多大程度上能解释另一模型中的表示，我们需要开发用于模型比较的推断方法。先前的研究已从表示几何（由模型层或皮层区域中输入模式表示之间的距离矩阵刻画）方面比较了模型与大脑。在本研究中，我们提议将这些模型和大脑中表示的概括性统计描述，作为强调表示拓扑与几何的更广泛统计类的一部分来探索。拓扑概括统计量建立在拓扑数据分析（TDA）和其他基于图的方法之上。我们从这些统计量用于模型选择时所提供的灵敏度和特异度方面评估它们，旨在将不同的神经网络模型相互关联，并对最能解释黑盒表示的计算机制进行推断。这些新方法使脑科学家和计算机科学家能够可视化大脑和模型学到的动态表示变换，并进行模型比较的统计推断。
引用
@article{arxiv.2203.05488,
title = {Geometric and Topological Inference for Deep Representations of Complex Networks},
author = {Baihan Lin},
journal= {arXiv preprint arXiv:2203.05488},
year = {2022}
}
备注
To appear in Proceeding of WWW 2022. This work extends our prior work (arXiv:1810.02923, arXiv:1906.09264, arXiv:1902.10658) and put them in perspectives along with many other ongoing research in this direction