合成数据上敏感性传播的动力学与性能
无序系统与神经网络
2010-10-01 v1 统计力学
摘要
我们研究了用于求解逆伊辛问题的敏感性传播（SusP）算法的性能和收敛性质。我们首先研究了生成数据的 Sherrington-Kirkpatrick 模型中的温度参数（T）如何影响算法的性能和收敛性。我们发现，在高温区域（T>4），算法表现良好，其质量仅受所提供数据质量的限制。在低温区域（T<4），我们发现算法通常不收敛，导致耦合参数值发散。然而，我们证明，通过在发散变得严重之前的正确时间停止算法，可以在低至 T~2 的温度下实现良好的重构。我们随后表明，稠密连接性、连接性的环路特性以及高绝对磁化强度都对算法的性能有恶化作用。当绝对磁化强度较高时，我们表明其他方法可能比 SusP 效果更好。最后，我们证明，对于具有高绝对磁化强度的神经数据，SusP 的表现不如 TAP 反演。
引用
@article{arxiv.1005.3694,
title = {Dynamics and Performance of Susceptibility Propagation on Synthetic Data},
author = {Erik Aurell and Charles Ollion and Yasser Roudi},
journal= {arXiv preprint arXiv:1005.3694},
year = {2010}
}
备注
9 pages, 7 figures