神经网络失分布泛化的表征：应用于无序 SSH 模型
量子物理
2025-01-30 v1 无序系统与神经网络
摘要
机器学习（ML）是检测物质相的有前景的工具。然而，机器学习模型也因其黑盒构建而已知晓其从数据中学习什么，这使得其应用于新数据风险较大。此外，机器学习的核心挑战在于确保其良好的泛化能力，即在训练集之外的数据上表现良好。本文展示了如何通过对称为类别激活映射（CAM）的可解释性方法的明智使用，以及对数据潜在表示进行主成分分析（PCA）分析，可以增加对由神经网络（NN）训练的分类量子相的预测可信度。特别是，我们展示可以通过选择在简化问题中学习已知相特征的 NN 来确保在复杂分类问题中获得更好的失分布泛化。我们以带和不带无序的拓扑 SSH（Su-Schrieffer-Heeger）模型为例，发现该问题对于以监督方式训练的 NN 来说异常具有挑战性。这一工作是系统性地如何使用可解释性方法来提高神经网络在科学问题中的性能的示例。
引用
@article{arxiv.2406.10012,
title = {Characterizing out-of-distribution generalization of neural networks: application to the disordered Su-Schrieffer-Heeger model},
author = {Kacper Cybiński and Marcin Płodzień and Michał Tomza and Maciej Lewenstein and Alexandre Dauphin and Anna Dawid},
journal= {arXiv preprint arXiv:2406.10012},
year = {2025}
}
备注
23 pages, 13 figures, example code is available at https://github.com/kcybinski/Interpreting_NNs_for_topological_phases_of_matter