利用主要化最小化进行$L_1$正则化玻尔兹曼机学习
机器学习
2015-06-24 v1 无序系统与神经网络
机器学习
摘要
我们提出了一种推断方法，用于根据玻尔兹曼机学习估计稀疏相互作用和偏置。该方法的基础是正则化，这是一种常用于压缩感知的技术，旨在从欠采样输出中重建稀疏输入信号。由于代价函数缺乏平滑性，正则化阻碍了梯度法的简单应用，而梯度法能优化导致准确估计的代价函数。在本研究中，我们利用主要化最小化（majorizer minimization）方法，这是一种在优化问题中众所周知的技术，以避免代价函数的非平滑性。通过使用主要化最小化方法，我们从看似具有强相关分量的给定数据中阐明了本质上相关的偏置和相互作用。
引用
@article{arxiv.1503.03132,
title = {L_1-regularized Boltzmann machine learning using majorizer minimization},
author = {Masayuki Ohzeki},
journal= {arXiv preprint arXiv:1503.03132},
year = {2015}
}
备注
16pages, 6 figures