中文

正态变量经sigmoid与softmax映射的统计矩的半解析近似

机器学习 2017-03-07 v2 神经元与认知

摘要

本笔记关注于准确且计算高效的矩近似,针对通过sigmoid或softmax映射的高斯随机变量。这些近似是半解析的(即涉及参数形式的数值调整)且高度准确(至多产生5%误差)。我们还强调了这些近似的一些小众应用,出现在例如决策制定的漂移扩散模型或非参数数据聚类方法的背景下。我们提供这些作为高效替代方案的例子,若要以更形式化的方式处理底层数学问题,则需要更繁琐的推导。我们希望本技术笔记对面临类似数学问题的建模者有所帮助,尽管他们可能来自不同的学术前景。

关键词

引用

@article{arxiv.1703.00091,
  title  = {Semi-analytical approximations to statistical moments of sigmoid and softmax mappings of normal variables},
  author = {Jean Daunizeau},
  journal= {arXiv preprint arXiv:1703.00091},
  year   = {2017}
}