发现云 AI 服务可信解释的开放 API 架构
分布式、并行与集群计算
2024-11-07 v1 人工智能
网络与互联网体系结构
摘要
本文提出了一种基于开放 API 的可解释 AI（XAI）服务设计，旨在为云 AI 服务提供特征贡献解释。云 AI 服务被广泛用于开发具有精确学习指标的领域特定应用。然而，底层的云 AI 服务在模型如何产生预测方面仍然是不透明的。我们认为，XAI 操作应以开放 API 的形式提供，以实现将 XAI 操作整合到云 AI 服务评估中。我们提出了一种采用微服务架构的设计，能够在不展开云模型网络结构的情况下，为云 AI 服务提供特征贡献解释。我们还可以利用该架构来评估模型性能和 XAI 一致性指标，从而展示云 AI 服务的可信度。我们从操作流水线中收集溯源数据，以实现 XAI 服务内的可复现性。此外，我们针对领先的云视觉 AI 服务，展示了关于模型性能和 XAI 一致性指标的实验测试发现场景。结果证实，基于开放 API 的该架构与云平台无关。此外，数据增强使得云 AI 服务的 XAI 一致性指标获得了可测量的改善。
引用
@article{arxiv.2411.03376,
title = {An Open API Architecture to Discover the Trustworthy Explanation of Cloud AI Services},
author = {Zerui Wang and Yan Liu and Jun Huang},
journal= {arXiv preprint arXiv:2411.03376},
year = {2024}
}
备注
Published in: IEEE Transactions on Cloud Computing ( Volume: 12, Issue: 2, April-June 2024)