可解释人工智能（XAI）：一种工程视角
机器学习
2021-01-12 v1 人工智能
摘要
深度学习（DL）算法的显著进展激发了在几乎每个领域使用人工智能（AI）技术的热情；然而，这些算法的不透明性给其在安全关键系统中的应用打上了问号。在这方面，“可解释性”维度不仅对于解释黑盒算法的内部机制至关重要，还增添了问责与透明维度，这对监管者、消费者和服务提供者极为重要。可解释人工智能（XAI）是一组将所谓黑盒AI算法转换为白盒算法的技术与方法，其中算法所得结果以及算法为获得结果所采取的变量、参数和步骤均是透明且可解释的。为补充现有XAI文献，本文采取“工程”方法来阐释XAI概念。我们讨论了XAI中的利益相关者，并从工程视角描述了XAI的数学轮廓。随后以自动驾驶汽车为用例，讨论了XAI在其不同组件（如目标检测、感知、控制、动作决策等）中的应用。本工作是识别XAI领域新研究途径的探索性研究。
引用
@article{arxiv.2101.03613,
title = {Explainable Artificial Intelligence (XAI): An Engineering Perspective},
author = {F. Hussain and R. Hussain and E. Hossain},
journal= {arXiv preprint arXiv:2101.03613},
year = {2021}
}