基于f-散度的正则化：在多氧化物光谱分析中的应用
机器学习
2025-02-07 v1
摘要
在本文中，我们致力于解决使用卷积神经网络（CNN）表征行星表面化学成分的任务。具体来说，我们寻求基于在火星条件下收集的光谱数据来预测岩石样本的多氧化物重量。我们将此问题构建为一个多目标回归任务，并提出了一种基于 f-散度的新型正则化方法。f-散度正则化旨在约束预测值与噪声目标之间的分布差异。该正则化项具有双重目的：一方面，它通过对预测分布与噪声目标分布之间的差异施加约束来减轻过拟合。另一方面，它充当辅助损失函数，当预测分布与目标分布之间的散度过大时对神经网络进行惩罚。为了在神经网络训练期间实现反向传播，我们开发了一个可微的 f-散度，并将其纳入 f-散度正则化中，使得网络训练可行。我们使用好奇号与毅力号火星车上遥感仪器在类火星环境中收集的光谱进行了实验。多氧化物重量预测的实验结果表明，所提出的 -散度正则化性能优于或可比拟标准正则化方法，包括 、 和 dropout。值得注意的是，将 -散度正则化与这些标准正则化方法结合使用可进一步提升性能，优于单独使用任何一种正则化方法。
引用
@article{arxiv.2502.03755,
title = {Regularization via f-Divergence: An Application to Multi-Oxide Spectroscopic Analysis},
author = {Weizhi Li and Natalie Klein and Brendan Gifford and Elizabeth Sklute and Carey Legett and Samuel Clegg},
journal= {arXiv preprint arXiv:2502.03755},
year = {2025}
}