用于恶意软件检测的LSTM超参数选择：交互效应与分层选择方法
密码学与安全
2021-09-24 v1 机器学习
摘要
长短期记忆（LSTM）网络在基于人工智能（AI）的语言建模中展现出巨大潜力。近来，LSTM网络也广泛用于设计基于AI的入侵检测系统（IDS）。然而，其在IDS中的适用性多在语言模型所用的默认设置下被研究。而安全应用提供不同条件，因而在应用此类循环网络时须审慎考量。为此，我们对IDS的LSTM超参数开展了最为详尽的研究之一，实验了约150种LSTM配置，以确定其超参数相对重要性、交互效应及用于设计IDS的最优选择方法。我们对这些实验结果进行了多重分析，并在经验上控制了不同超参数协变量水平的交互效应。我们发现，对于安全应用，尤其设计IDS，既不适用于语言模型的相似相对重要性，标准的线性超参数选择方法亦非理想。我们确认交互效应在决定超参数相对重要性中起关键作用。我们还发现，在控制交互效应后，IDS中LSTM的正确相对重要性依次为批大小、丢弃率和填充。这些发现意义重大，因为LSTM初用于语言模型时，重点多在于增加层数以提升性能。
引用
@article{arxiv.2109.11500,
title = {LSTM Hyper-Parameter Selection for Malware Detection: Interaction Effects and Hierarchical Selection Approach},
author = {Mohit Sewak and Sanjay K. Sahay and Hemant Rathore},
journal= {arXiv preprint arXiv:2109.11500},
year = {2021}
}