使用可解释性方法审计多层模型的框架
计算机与社会
2022-07-18 v2
摘要
多层模型的应用通常基于一组输入特征，在组或层级内产生二分类结果。为使此类模型的应用透明且符合伦理，需要开发健全的审计框架。本文提出一种用于多层回归模型（MLM）技术评估的审计框架。重点置于三个方面：模型、歧视性以及透明性与可解释性。这些方面进而被划分为子方面。针对每个子方面，识别出诸如组间公平性、特征贡献顺序与聚合特征贡献等贡献要素。为衡量各贡献要素的表现，该框架提出了一份关键绩效指标（KPI）清单。此外，将交通灯式风险评估方法耦合至这些 KPI。为评估透明性与可解释性，使用了不同可解释性方法（SHAP 与 LIME），并通过定量方法与机器学习建模将其与模型内在方法进行比较。利用一个开源数据集训练并测试了模型，并计算了 KPI。结果表明，诸如 SHAP 与 LIME 等流行的可解释性方法在解释这些模型时准确性欠佳。它们未能预测特征重要性的顺序、量级，偶尔甚至未能预测特征贡献的性质。对于其他贡献要素，如组公平性及相关的 KPI，也进行了类似的分析与计算，旨在为所提审计框架增添深度。该框架有望协助监管机构对使用多层二项分类模型的企业的 AI 系统开展符合性评估。它也将惠及部署 MLM 的企业，使其具备面向未来的能力并与欧盟委员会提出的《人工智能法案》保持一致。
引用
@article{arxiv.2207.01611,
title = {A Framework for Auditing Multilevel Models using Explainability Methods},
author = {Debarati Bhaumik and Diptish Dey and Subhradeep Kayal},
journal= {arXiv preprint arXiv:2207.01611},
year = {2022}
}
备注
Submitted at ECIAIR 2022