解读利用 n 元语法分析的机器学习恶意软件检测器
密码学与安全
2020-01-30 v1 人工智能
机器学习
摘要
在网络攻击检测与防御系统中，网络安全分析师总是偏好尽可能可解释、可理解的方案，如基于规则或基于签名的检测。这是因为需要调优并优化这些方案，以缓解和控制假阳性与假阴性的影响。解读机器学习模型是一个崭新且开放的挑战。然而，可解释的机器学习方案应当是领域特定的。例如，医疗领域中机器学习模型的可解释方案不同于恶意软件检测中的方案。这是因为模型复杂，且大多作为黑箱工作。近来，恶意软件作者绕过反恶意软件系统的能力增强，迫使安全专家寻求利用机器学习构建鲁棒检测系统。若这些系统要在工业界中被信赖，则除其他挑战外，还必须能解释其预测。本文旨在评估当前最先进的 ML 模型可解释性技术在应用于基于 ML 的恶意软件检测器时的状况。我们展示了可解释性技术的实践应用，并评估了现有可解释性技术在恶意软件分析领域的有效性。
引用
@article{arxiv.2001.10916,
title = {Interpreting Machine Learning Malware Detectors Which Leverage N-gram Analysis},
author = {William Briguglio and Sherif Saad},
journal= {arXiv preprint arXiv:2001.10916},
year = {2020}
}
备注
18 pages, The 12th International Symposium on Foundations & Practice of Security, 2019