PCEvE：基于部位贡献评估的模型解释及其在人物画评估中的应用与拓展
计算机视觉与模式识别
2024-10-07 v2 人工智能
摘要
对于自动人物画 (HFD) 评估任务，例如使用 HFD 图像诊断自闭症谱系障碍 (ASD)，模型决策的清晰度与可解释性至关重要。现有的基于像素级归因的可解释人工智能 (XAI) 方法需要用户花费大量精力去解释图像中某个区域的语义信息，这通常既耗时又不切实际。为了克服这一挑战，我们提出了一种基于部位贡献评估的模型解释 (PCEvE) 框架。在部位检测的基础上，我们测量每个部位的 Shapley 值以评估其对模型决策的贡献。与现有的基于归因的 XAI 方法不同，PCEvE 提供了对模型决策的直观解释，即部位贡献直方图。此外，PCEvE 将解释范围从传统的样本级扩展到了类别级和任务级，提供了对模型行为更丰富、更全面的理解。我们通过在多个 HFD 评估数据集上的大量实验严格验证了 PCEvE。同时，我们通过一组对照实验对所提方法进行了合理性检验。此外，我们通过将其应用于真实照片数据集 Stanford Cars，展示了该方法在其他领域的多功能性与适用性。
引用
@article{arxiv.2409.18260,
title = {PCEvE: Part Contribution Evaluation Based Model Explanation for Human Figure Drawing Assessment and Beyond},
author = {Jongseo Lee and Geo Ahn and Seong Tae Kim and Jinwoo Choi},
journal= {arXiv preprint arXiv:2409.18260},
year = {2024}
}
备注
This papaer is under review