ClassiFIM:一种检测相变的无监督方法
机器学习
2024-08-07 v1
摘要
费舍尔信息矩阵估计(FIM估计)是一个重要的任务,源于物理学家提出的相变无监督学习问题。这项工作通过定义严格的评估指标distMSE、distMSEPS和distRE,完成了该任务的定义,并引入了ClassiFIM,一种专为解决FIM估计任务而设计的新型机器学习方法。与现有的相变无监督学习方法不同,ClassiFIM直接估计一个定义良好的量(FIM),使其能够与任何当前和未来的估计同一量的方法进行严格比较。ClassiFIM将FIM估计任务的数据集转换为辅助二分类任务的数据集,并涉及选择和训练后者的模型。我们证明,在数据集无限大且满足某些正则性条件的极限下,ClassiFIM的输出趋近于精确的FIM。我们在多个数据集上实现了ClassiFIM,包括描述经典相变和量子相变的数据集,发现它以适度的计算资源实现了对真实值的良好逼近。此外,我们独立地在相同数据集上实现了两种替代的最先进的相变位置无监督估计方法,发现ClassiFIM预测此类位置至少与这些其他方法一样好。为了强调我们方法的通用性,我们还提出并生成了MNIST-CNN数据集,该数据集由针对不同超参数选择在MNIST上训练的CNN的输出组成。在该数据集上使用ClassiFIM表明,在针对MNIST训练的CNN的图像预测对分布中存在相变,展示了FIM估计超越物理学的广泛范围。
引用
@article{arxiv.2408.03323,
title = {ClassiFIM: An Unsupervised Method To Detect Phase Transitions},
author = {Victor Kasatkin and Evgeny Mozgunov and Nicholas Ezzell and Utkarsh Mishra and Itay Hen and Daniel Lidar},
journal= {arXiv preprint arXiv:2408.03323},
year = {2024}
}
备注
23 pages, 5 figures