基于因果驱动的模型鲁棒性审计
计算机视觉与模式识别
2025-08-07 v2 人工智能
机器学习
摘要
深度神经网络（DNN）的鲁棒性审计提供了一种手段，用以揭示模型对挑战性真实世界成像条件的敏感性，这些条件会显著降低 DNN 在实际场景中的性能。此类条件往往是由环境、传感器或处理流水线中固有的多种交互因素导致的，并可能产生难以归类的复杂图像失真。当鲁棒性审计仅限于一组孤立的成像效果或失真时，其结果无法（轻易地）迁移到真实世界条件中，因为真实世界中的图像损坏可能更加复杂或微妙。为应对这一挑战，我们提出了一种新的替代性鲁棒性审计方法，利用因果推断来测量成像过程中导致复杂失真的各因素对 DNN 的敏感性。我们的方法使用因果模型来显式编码与领域相关的因素及其交互假设。然后，通过在多个视觉任务上对自然图像和渲染图像进行大量实验，我们展示了我们的方法仅使用观测性领域数据就能可靠地估计每个因素对 DNN 性能的因果效应。这些因果效应直接将 DNN 的敏感性与感兴趣领域中成像流水线的可观测属性联系起来，从而降低在该领域部署时意外 DNN 失效的风险。
引用
@article{arxiv.2410.23494,
title = {Causality-Driven Audits of Model Robustness},
author = {Nathan Drenkow and William Paul and Chris Ribaudo and Mathias Unberath},
journal= {arXiv preprint arXiv:2410.23494},
year = {2025}
}