基于前后校正参数比较（BAPC）的可解释 AI
机器学习
2023-09-12 v2 机器学习
摘要
本文引入了一种用于 AI 模型修正更简单“基”模型的局部代理模型，代表一种产生 AI 预测解释的解析方法。该方法在此以基模型为线性回归的情形下进行研讨。AI 模型逼近线性模型的残差误差，而解释以可解释的基模型参数变化的形式表述。我们给出了关于代理模型损失精度、AI 模型精度与代理保真度之间精确关系的准则。研究表明，在假设观测数据中存在某一最大噪声量的前提下，这些准则诱导出待解释样本的领域，其在最大精度与保真度意义上具有理想大小。
引用
@article{arxiv.2103.07155,
title = {Explainable AI by BAPC -- Before and After correction Parameter Comparison},
author = {Florian Sobieczky and Manuela Geiß},
journal= {arXiv preprint arXiv:2103.07155},
year = {2023}
}