使用 Obz AI 解释和监控计算机视觉深度学习模型
计算机视觉与模式识别
2025-08-26 v1 人工智能
人机交互
软件工程
摘要
深度学习已变革了计算机视觉（CV），在分类、分割及相关任务中取得了出色的性能。此类基于人工智能的 CV 系统正日益普及，其应用涵盖从医学成像到监控等广泛领域。诸如卷积神经网络（CNN）和视觉 Transformer（ViT）等最先进模型通常被视为“黑盒”，其决策过程的透明度有限。尽管可解释人工智能（XAI）近期取得了进展，但可解释性在实际 CV 部署中仍未被充分利用。一个主要障碍是缺乏将 XAI 技术与稳健的知识管理和监控框架相连接的集成软件解决方案。为填补这一空白，我们开发了 Obz AI，这是一个综合的软件生态系统，旨在为视觉 AI 系统提供最先进的可解释性和可观测性。Obz AI 提供了从 Python 客户端库到全栈分析仪表板的无缝集成流水线。借助 Obz AI，机器学习工程师可以轻松整合先进的 XAI 方法，提取并分析用于异常检测的特征，并实时持续监控 AI 模型。通过使深度模型的决策机制变得可解释，Obz AI 促进了计算机视觉系统的可观测性与负责任部署。
引用
@article{arxiv.2508.18188,
title = {Explain and Monitor Deep Learning Models for Computer Vision using Obz AI},
author = {Neo Christopher Chung and Jakub Binda},
journal= {arXiv preprint arXiv:2508.18188},
year = {2025}
}