基于锋利意识最小化的深度混合模型学习
机器学习
2026-02-09 v1 机器学习
摘要
混合建模即机器学习模型与科学数学模型的结合，能够实现灵活且具有部分可解释性的数据驱动预测。然而，科学模型可能因机器学习模型的灵活性而被忽视，从而使混合建模的理念失去意义。通常会对混合模型学习施加某些正则化，以避免此类失效情况，但正则化器的公式强烈依赖于模型架构和领域知识。在本文中，我们提出应关注损失极小值在学习混合模型中的平坦性，以尽可能简化模型。我们采用锋利意识最小化的思想并将其适用于混合建模环境。数值实验表明，基于 SAM 的方法在不同模型和数据集选择下均表现良好。
引用
@article{arxiv.2602.06837,
title = {Learning Deep Hybrid Models with Sharpness-Aware Minimization},
author = {Naoya Takeishi},
journal= {arXiv preprint arXiv:2602.06837},
year = {2026}
}