监督管道的模块化喷嘴：诊断迷雾与可识别性

经典的监督学习主要通过在保留数据上的预测风险来评估模型。此类评估量化了函数在分布上表现如何，但并未解决模型内部分解是否由数据和评估设计唯一确定的问题。本文引入了用于回归和分类管道的\emph{模块化喷嘴}（Modular Jets）。给定任务流形（输入空间）、模块化分解以及对模块级表示的访问，我们估计经验喷嘴，这些是描述每个模块对输入小结构扰动作出响应的局部线性映射。我们提出了\emph{迷雾}（mirage） regime 的经验概念，其中多个不同的模块化分解导致不可区分的喷嘴，从而在观察上等价；并与\emph{可识别}（identifiable） regime 对比，在后者中，观察到的喷嘴唯一确定了分解（除自然对称性外）。在两个模块线性回归管道的设置下，我们证明了喷嘴可识别性定理。在 mild rank 假设并获得模块级喷嘴的条件下，内部因子化唯一确定，而仅凭风险评估则允许一大族迷雾分解实现相同的输入到输出映射。随后，我们提出了用于经验喷嘴估计和迷雾诊断的算法（MoJet），并通过线性和深度回归以及管道分类示例说明了该框架。