Taylor-Sensus 网络：拥抱噪声以揭示科学数据的不确定性
机器学习
2024-09-13 v1
摘要
不确定性估计对于机器学习中的科学数据至关重要。当前的不确定性估计方法主要关注模型的固有不确定性，而忽略了数据中噪声的显式建模。此外，噪声估计方法通常依赖于时间或空间依赖性，这在样本间往往缺乏此类依赖性的结构化科学数据中构成了重大挑战。为了解决科学研究中的这些挑战，我们提出了 Taylor-Sensus 网络 (TSNet)。TSNet 创新性地使用泰勒级数展开来建模复杂的异方差噪声，并提出了一个用于感知噪声分布的深度 Taylor 块。TSNet 包含一个噪声感知对比学习模块和一个数据密度感知模块，分别用于偶然不确定性和认知不确定性。此外，使用一个不确定性组合算子来整合这些不确定性，并使用一种新颖的异方差均方误差损失训练该网络。在实验中，TSNet 展现出优于主流和最先进方法的性能，突显了其在科学研究和抗噪方面的潜力。它将开源以促进“AI for Science”社区的发展。
引用
@article{arxiv.2409.07942,
title = {Taylor-Sensus Network: Embracing Noise to Enlighten Uncertainty for Scientific Data},
author = {Guangxuan Song and Dongmei Fu and Zhongwei Qiu and Jintao Meng and Dawei Zhang},
journal= {arXiv preprint arXiv:2409.07942},
year = {2024}
}