薄冰之上：通过归因与扰动实现可解释的保育监控
计算机视觉与模式识别
2025-10-27 v1 人工智能
摘要
计算机视觉可以加速生态研究和保育监控，但由于对黑箱神经网络模型缺乏信任，生态学中的应用采用仍有滞后。我们寻求通过应用后置解释方法来提供预测证据并记录重要于现场部署的局限性。使用冰川湾国家公园的航空图像，我们训练 Faster R-CNN 检测海豚（灯塔海豚），并通过梯度基类激活图 (HiResCAM、LayerCAM)、局部可解释模型无关解释 (LIME) 和扰动基解释生成解释。我们沿三个与现场使用相关的轴向进行评估：(i) 局部化忠实性：高归因区域是否与动物而非背景情境重合；(ii) 忠实度：删除/插入测试是否导致探测器置信度变化；(iii) 诊断实用性：解释是否揭示系统性错误模式。解释集中在海豚躯干和轮廓上而非周围冰/岩石，移除海豚会降低检测置信度，从而为真阳性提供模型证据。分析还发现常见的错误来源，包括海豚与黑冰和岩石之间的混淆。我们将这些发现转化为可操作的后续步骤，用于模型开发，包括更精准的数据策划与增强。通过将目标检测与后置可解释性相结合，我们可以超越“黑箱”预测，朝向面向保育监控的可审计、支持决策的工具迈进。
引用
@article{arxiv.2510.21689,
title = {On Thin Ice: Towards Explainable Conservation Monitoring via Attribution and Perturbations},
author = {Jiayi Zhou and Günel Aghakishiyeva and Saagar Arya and Julian Dale and James David Poling and Holly R. Houliston and Jamie N. Womble and Gregory D. Larsen and David W. Johnston and Brinnae Bent},
journal= {arXiv preprint arXiv:2510.21689},
year = {2025}
}
备注
NeurIPS Imageomics Workshop 2025