基于LSTM网络的代码失败预测与模式提取
机器学习
2018-12-14 v1 人工智能
摘要
在本文中，我们使用一种称为长短期记忆（LSTM）递归神经网络的知名深度学习技术，在依赖遥测数据进行系统健康监控的应用中找出易发生代码失败的会话。我们还使用LSTM网络提取导致特定代码失败的遥测模式。对于代码失败预测，我们将遥测事件、遥测事件序列及每序列的结果分别视为情感分析上下文中的词、句子和情感。我们提出的方法能处理大量数据，并可自动处理代码失败预测中的边缘情况。我们利用贝叶斯优化技术寻找最优超参数以及带来最佳预测性能的LSTM单元类型。随后我们引入贡献者与阻断者概念。本文中，贡献者是导致代码失败的事件集合，而阻断者是各自单独能阻止代码失败发生的事件集合，即便存在一个或多个贡献者亦然。一旦所提LSTM模型训练完成，我们使用贪心方法寻找贡献者与阻断者。为开发和测试所提方法，我们首先使用合成（模拟）数据。合成数据使用若干代码失败规则及若干阻止代码失败发生的规则生成。训练后的LSTM模型在合成数据中检测代码失败的准确率超过99%。所提方法结果优于决策树与随机森林等经典学习模型。使用所提贪心方法，我们能在超过90%的案例中从合成数据中找到贡献者与阻断者，性能优于序列规则与模式挖掘算法。
引用
@article{arxiv.1812.05237,
title = {Code Failure Prediction and Pattern Extraction using LSTM Networks},
author = {Mahdi Hajiaghayi and Ehsan Vahedi},
journal= {arXiv preprint arXiv:1812.05237},
year = {2018}
}