学习结构化高斯以近似深度集成

本文提出使用稀疏结构化多元高斯，为用于稠密图像预测任务的概率集成模型输出提供闭式近似器。这通过卷积神经网络预测分布的均值与协方差实现，其中逆协方差由稀疏结构化Cholesky矩阵参数化。与蒸馏方法类似，我们的单一网络被训练为最大化来自预训练概率模型（本文中采用固定的网络集成）样本的概率。训练后，我们的紧凑表征可用于从近似输出分布中高效抽取空间相关样本。重要的是，该方法在形式化分布中显式捕获预测的不确定性与结构化相关性，而非仅通过采样隐式表达。这使得可直接审视模型，实现所学结构的可视化。此外，该形式带来两点额外益处：样本概率的估计，以及测试时任意空间条件的引入。我们在单目深度估计上展示了方法的优势，并表明在获得可比量化性能的同时具备了上述优点。