XAIport：面向 AI 模型开发中 XAI 早期采用的服务框架
人工智能
2024-03-26 v1
摘要
在本研究中，我们提出早期采用可解释 AI（XAI），并重点关注三个特性：解释质量，即解释摘要应在多种 XAI 方法间保持一致；架构兼容性，为了有效集成 XAI，XAI 方法与待解释模型的架构风格均须与框架兼容；可配置操作，XAI 解释是可操作的，类似于机器学习操作。因此，AI 模型的解释应当具备可复现性与可追溯性，才值得信赖。我们提出 XAIport，一个封装为 Open APIs 的 XAI 微服务框架，用于交付早期解释，作为观察以保障学习模型质量。XAIport 支持在机器学习开发过程中进行可配置的 XAI 操作。我们量化了在 Microsoft Azure Cognitive Services、Google Cloud Vertex AI 和 Amazon Rekognition 三个云端计算机视觉服务中引入 XAI 的操作成本。研究结果表明，XAI 与传统机器学习的操作成本相当，且 XAIport 显著提升了云端 AI 模型的性能与解释稳定性。
引用
@article{arxiv.2403.16858,
title = {XAIport: A Service Framework for the Early Adoption of XAI in AI Model Development},
author = {Zerui Wang and Yan Liu and Abishek Arumugam Thiruselvi and Abdelwahab Hamou-Lhadj},
journal= {arXiv preprint arXiv:2403.16858},
year = {2024}
}
备注
Accepted at the ICSE'24 conference, NIER track