通过民主视角的可解释 AI：DhondtXAI 基于 D'Hondt 方法的比例特征重要性
人工智能
2024-11-15 v2 数字图书馆
机器学习
摘要
在民主社会中，选举制度在将公众偏好转化为政治代表方面发挥着关键作用。其中，D'Hondt 方法被广泛用于确保比例代表制，在公平代表与政府稳定性之间取得平衡。最近，人们越来越有兴趣将类似的比例代表原则应用于增强机器学习的可解释性，特别是可解释人工智能（XAI）。本研究调查了 D'Hondt 投票原则在 DhondtXAI 方法中的整合，该方法利用资源分配概念来解释 AI 模型中的特征重要性。通过比较 SHAP（Shapley 加性解释）和 DhondtXAI，我们评估了它们在乳腺癌和糖尿病预测的 CatBoost 和 XGBoost 模型中特征归因的有效性。DhondtXAI 方法允许联盟形成和阈值处理以增强可解释性，将特征重要性表示为议会视角中的席位。SHAP 值与 DhondtXAI 分配之间的统计相关性分析支持了解释的一致性，证明了 DhondtXAI 作为理解 AI 模型中特征重要性的补充工具的潜力。结果强调，将选举原则（如比例代表制和联盟）整合到 AI 可解释性中，可以改善用户的理解，特别是在医疗保健等高风险领域。
引用
@article{arxiv.2411.05196,
title = {Explainable AI through a Democratic Lens: DhondtXAI for Proportional Feature Importance Using the D'Hondt Method},
author = {Turker Berk Donmez},
journal= {arXiv preprint arXiv:2411.05196},
year = {2024}
}