利用可解释 AI 验证机器遗忘
机器学习
2024-11-21 v1 人工智能
摘要
我们研究了可解释 AI（XAI）在港口前沿监控场景下验证机器遗忘（MU）的有效性，重点关注数据隐私和法规合规性。随着遵守《通用数据保护条例》（GDPR）等隐私法规的需求日益增加，针对数据删除而重新训练 ML 模型的传统方法因其复杂性和资源需求被证明是不切实际的。MU 通过使模型能够选择性地遗忘特定已学习的模式而无需完全重新训练，提供了一种解决方案。我们探索了各种移除技术，包括数据重标记和模型扰动。然后，我们利用基于归因的 XAI 来讨论遗忘对模型性能的影响。我们的概念验证引入了特征重要性作为 MU 的创新验证步骤，超越了传统指标，并展示了该技术减少对不良模式依赖的能力。此外，我们提出了两种基于 XAI 的新颖指标：热力图覆盖率（HC）和注意力转移（AS），以评估这些方法的有效性。这种方法不仅突出了 XAI 如何通过提供有效验证来补充 MU，也为未来研究增强两者的联合集成奠定了基础。
引用
@article{arxiv.2411.13332,
title = {Verifying Machine Unlearning with Explainable AI},
author = {Àlex Pujol Vidal and Anders S. Johansen and Mohammad N. S. Jahromi and Sergio Escalera and Kamal Nasrollahi and Thomas B. Moeslund},
journal= {arXiv preprint arXiv:2411.13332},
year = {2024}
}
备注
ICPRW2024