用形式化方法证伪可解释人工智能迷思——初步结果
人工智能
2023-06-06 v1 机器学习
摘要
近年来机器学习（ML）的进展既令人瞩目又影响深远。然而，ML 模型的部署仍受限于对性能最佳 ML 模型如何做出预测缺乏信任。在高风险或安全关键领域使用 ML 模型时，缺乏信任的问题更为严峻。可解释人工智能（XAI）是交付可信 AI 的持续努力的核心。遗憾的是，XAI 充斥着严重的误解，这些误解助长不信任而非建立信任。本文详述 XAI 中一些最显著的误解，并展示形式化方法如何既被用于证伪这些误解，也被用于设计实际有效的替代方案。
引用
@article{arxiv.2306.01744,
title = {Disproving XAI Myths with Formal Methods -- Initial Results},
author = {Joao Marques-Silva},
journal= {arXiv preprint arXiv:2306.01744},
year = {2023}
}