虚假的安全感：利用可解释人工智能分析无上下文 DGA 分类器的推理与真实性能
密码学与安全
2023-09-26 v2 机器学习
摘要
通过域名生成算法（DGA）检测来揭示僵尸网络活动的问题看似已解决，因为现有的深度学习分类器准确率超过 99.9%。然而，这些分类器提供了虚假的安全感，因为它们存在严重偏差且可被轻易绕过检测。本工作中，我们利用可解释人工智能（XAI）方法分析深度学习分类器的推理过程，并系统性地揭示此类偏差。我们表明，从 DGA 分类器中消除这些偏差会显著劣化其性能。尽管如此，我们仍能够设计一个无上述已识别偏差且保持最先进深度学习分类器检测率的上下文感知检测系统。在此背景下，我们提出了一种视觉分析系统，有助于更好地理解分类器的推理过程，从而提升检测方法的信任度与透明度，并辅助决策。
引用
@article{arxiv.2307.04358,
title = {False Sense of Security: Leveraging XAI to Analyze the Reasoning and True Performance of Context-less DGA Classifiers},
author = {Arthur Drichel and Ulrike Meyer},
journal= {arXiv preprint arXiv:2307.04358},
year = {2023}
}
备注
Accepted at The 26th International Symposium on Research in Attacks, Intrusions and Defenses (RAID '23)