统一监督学习与 VAE——基于归一化流的神经网络模型在天体粒子重建中的覆盖、系统性与拟合优度
机器学习
2024-03-14 v5 高能天体物理现象
天体物理仪器与方法
高能物理 - 实验
机器学习
摘要
天体粒子物理中基于神经网络的事件属性预测正变得越来越普遍。然而,在许多情况下结果仅被用作点预测。统计不确定性、覆盖、系统性不确定性或拟合优度度量往往未被计算。在此我们描述了一种特定的训练与网络架构选择,其允许将所有这些性质纳入单一网络模型。我们表明,数据与标签联合分布的 KL 散度目标允许在随机变分推断的统一框架下将监督学习与变分自编码器(VAEs)统一起来。该统一催生了一种扩展的监督学习方案,其允许计算神经网络模型的拟合优度 p 值。由神经网络摊销的条件归一化流在此构造中至关重要。我们讨论了如何针对归一化流所特有的特定“基有序”等高线在无数值积分的情况下计算覆盖概率。此外,我们展示了如何通过训练期间的有效边缘化来纳入系统性不确定性。所提出的扩展监督训练在单一机器学习模型中融合了 (1) 覆盖计算、(2) 系统性与 (3) 拟合优度度量。原则上对所涉及分布的形状没有约束,事实上该机制适用于定义在积空间(如 )上的复杂多峰分布。然而,当分布过于退化时,覆盖计算在其解释上需要谨慎。我们看到在事件选择或需要不确定性保证的快速天文警报中利用此逐事件信息的巨大潜力。
引用
@article{arxiv.2008.05825,
title = {Unifying supervised learning and VAEs -- coverage, systematics and goodness-of-fit in normalizing-flow based neural network models for astro-particle reconstructions},
author = {Thorsten Glüsenkamp},
journal= {arXiv preprint arXiv:2008.05825},
year = {2024}
}