用 SHapley Additive exPlanations 解释伪造与深度伪造检测的深度学习模型
音频与语音处理
2024-04-29 v2
摘要
近年来，伪造与深度伪造检测取得了实质性进展。然而，学界在解释分类器如何产生其输出方面尚未取得显著进展。黑盒伪造检测方案的主导地位与迈向可信、可解释人工智能的努力进一步相悖。本文描述了我们使用 SHapley Additive exPlanations (SHAP) 来获取伪造检测新见解的尝试。我们展示了该工具在揭示非预期分类器行为、对分类器输出贡献最大的伪影，以及竞争伪造检测模型间行为差异方面的用途。该工具高效且灵活，除相关不同应用外，还可轻易应用于多种不同架构模型。文中所有结果均可使用开源软件复现。
引用
@article{arxiv.2110.03309,
title = {Explaining deep learning models for spoofing and deepfake detection with SHapley Additive exPlanations},
author = {Wanying Ge and Jose Patino and Massimiliano Todisco and Nicholas Evans},
journal= {arXiv preprint arXiv:2110.03309},
year = {2024}
}
备注
Accepted to ICASSP 2022