扩展XReason:用于对抗检测的形式化解释
人工智能
2025-01-03 v1 密码学与安全
机器学习
摘要
可解释人工智能(XAI)在提高复杂机器学习模型的透明度和可靠性方面发挥着重要作用,尤其是在网络安全等关键领域。尽管SHAP和LIME等启发式解释方法被广泛使用,但这些技术往往缺乏形式化保证,并可能产生不一致的局部解释。为满足这一需求,已有少数工具采用形式化方法来提供形式化解释。其中,XReason使用SAT求解器为XGBoost模型生成形式化的实例级解释。在本文中,我们扩展了XReason工具,以支持LightGBM模型以及类别级解释。此外,我们在XReason中实现了一种生成和检测对抗样本的机制。我们在CICIDS-2017数据集(一种广泛使用的网络攻击检测基准)上评估了该方法的效率和准确性。
引用
@article{arxiv.2501.00537,
title = {Extending XReason: Formal Explanations for Adversarial Detection},
author = {Amira Jemaa and Adnan Rashid and Sofiene Tahar},
journal= {arXiv preprint arXiv:2501.00537},
year = {2025}
}
备注
International Congress on Information and Communication Technology (ICICT), Lecture Notes in Networks and Systems (LNNS), Springer, 2025