CHILLI：一种面向数据上下文的可解释人工智能扰动方法
机器学习
2024-07-11 v1 人工智能
摘要
机器学习模型的可信度评估可能较难进行，但在高风险或伦理敏感的应用场景中至关重要。许多模型被视为“黑盒”，其最终决策的推理依据或标准对用户而言并不透明。为此，一些现有的可解释人工智能(XAI)方法通过扰动数据来近似模型行为。然而，这些方法备受批评，因其忽略特征之间的依赖关系，导致基于可能不切实的数据的解释。我们提出一种新型框架CHILLI，通过生成具有数据上下文感知性的扰动来将数据上下文纳入可解释人工智能，从而使所生成的解释更加忠实于所解释基模型的训练数据。这一方法被证明可提高解释的严谨性和准确性。
引用
@article{arxiv.2407.07521,
title = {CHILLI: A data context-aware perturbation method for XAI},
author = {Saif Anwar and Nathan Griffiths and Abhir Bhalerao and Thomas Popham},
journal= {arXiv preprint arXiv:2407.07521},
year = {2024}
}