可解释人工智能的范畴论基础：一种统一理论
人工智能
2023-09-19 v3 机器学习
机器学习
摘要
可解释人工智能(XAI)旨在满足人类对安全可靠人工智能系统的需求。然而，大量综述强调了关键XAI概念缺乏严格的数学形式化——特别是“解释”一词至今仍无精确定义。为弥补这一空白，本文利用基础扎实的范畴论形式化方法，首次给出了关键XAI概念与过程的数学严格定义。我们证明所提出的范畴论框架能够：(i)对现有的学习方案与架构进行建模，(ii)形式化地定义“解释”一词，(iii)为XAI分类法建立理论基础，以及(iv)分析解释方法中常被忽视的方面。因此，我们的范畴论框架促进了人工智能技术的伦理与安全部署，标志着迈向可解释人工智能坚实理论基础的重要一步。
引用
@article{arxiv.2304.14094,
title = {Categorical Foundations of Explainable AI: A Unifying Theory},
author = {Pietro Barbiero and Stefano Fioravanti and Francesco Giannini and Alberto Tonda and Pietro Lio and Elena Di Lavore},
journal= {arXiv preprint arXiv:2304.14094},
year = {2023}
}