一种用于离群点检测的近似贝叶斯长短期记忆算法
机器学习
2019-06-05 v2 机器学习
摘要
通过梯度下降与反向传播训练的长短期记忆网络在各种应用中取得了巨大成功。然而,网络权重的点估计易于出现过拟合问题,且缺乏与估计相关的重要不确定性信息。而精确的贝叶斯神经网络方法难以处理,无法应用于实际场景。在本研究中,我们提出利用集成卡尔曼滤波对权重不确定性进行近似估计,该方法可轻松扩展至大量权重。此外,我们通过最大似然估计优化集成更新步骤中噪声分布的协方差。为评估所提算法,我们将其应用于从 Twitter 平台获取的五个真实世界事件的离群点检测。
引用
@article{arxiv.1712.08773,
title = {An Approximate Bayesian Long Short-Term Memory Algorithm for Outlier Detection},
author = {Chao Chen and Xiao Lin and Gabriel Terejanu},
journal= {arXiv preprint arXiv:1712.08773},
year = {2019}
}