特征编码对恶意软件分类可解释性的影响
机器学习
2023-07-13 v1 人工智能
摘要
本文研究了特征编码技术对 XAI（可解释人工智能）算法可解释性的影响。使用恶意软件分类数据集，我们训练了一个 XGBoost 模型，并比较了两种特征编码方法：标签编码（LE）与独热编码（OHE）的性能。我们的发现显示，使用 OHE 替代 LE 时存在微小的性能损失。然而，OHE 所提供的更详尽解释弥补了这一损失。我们观察到 OHE 能够在全局与局部语境下更深入地探究细节，从而促成更全面的回答。此外，我们观察到使用 OHE 导致了更小的解释文件以及分析师更短的分析时间。这些发现强调了在 XAI 研究中考虑特征编码技术的重要性，并暗示通过引入额外编码方法与创新可视化途径进行进一步探索的潜力。
引用
@article{arxiv.2307.05614,
title = {Impact of Feature Encoding on Malware Classification Explainability},
author = {Elyes Manai and Mohamed Mejri and Jaouhar Fattahi},
journal= {arXiv preprint arXiv:2307.05614},
year = {2023}
}
备注
This paper is accpeted in the 15th Edition of INTERNATIONAL CONFERENCE on Electronics, Computers and Artificial Intelligence, BUCHAREST, ROMANIA (ECAI 2023)