论量子神经网络的可解释性
量子物理
2024-11-11 v2 机器学习
摘要
人工智能（AI）方法特别是深度神经网络的可解释性备受关注。这种高度关注源于AI支撑系统的广泛应用。这些系统往往依赖复杂的神经架构，可能表现出难以解释和理解的行为。此类模型的可解释性是构建可信系统的关键组成部分。现有许多方法致力于解决该问题，但它们并不能直接适用于量子情形。在此，我们利用常用于经典神经网络的局部模型无关可解释性度量来探究量子神经网络的可解释性。在此基础上，我们将一种称为LIME的经典技术推广，提出Q-LIME，用以生成量子神经网络的解释。我们解释的一个特征是划定了数据样本被赋予随机标签的区域，这些样本很可能是固有随机量子测量的对象。我们认为这是迈向理解如何构建负责任且可问责的量子AI模型的一步。
引用
@article{arxiv.2308.11098,
title = {On the Interpretability of Quantum Neural Networks},
author = {Lirandë Pira and Chris Ferrie},
journal= {arXiv preprint arXiv:2308.11098},
year = {2024}
}