深度神经网络的拓扑斯与栈

每一个已知的人工深度神经网络（DNN）对应于一个典范的 Grothendieck 拓扑斯中的对象；其学习动态对应于该拓扑斯中态射的流。层中的不变性结构（如 CNN 或 LSTM）对应于 Giraud 栈。这种不变性被认为是泛化性质（即在约束下从学习数据外推）的原因。纤维表示前语义范畴（Culioli, Thom），在其上定义人工语言，具有内逻辑：直觉主义、经典或线性（Girard）。网络的语义功能是其在此类语言中表达理论以回答关于输入数据的输出问题的能力。语义信息的数量与空间通过类比 P.Baudot 和 D.Bennequin 于 2015 年对香农熵的同调解释来定义，它们推广了 Carnap 和 Bar-Hillel（1952）发现的度量。令人惊讶的是，上述语义结构由 Quillen 闭模型范畴中的几何 fibrant 对象分类，因此它们给出 DNN 及其语义同伦不变量。意向类型论（Martin-Loef）组织这些对象及它们之间的纤维化。信息内容与交换由 Grothendieck 导子分析。