超越单模型XAI：聚合多模型解释以提升可信度
机器学习
2025-12-17 v1
摘要
人工智能(AI)模型在实际应用和高风险场景中的使用，加剧了关于其可信度和伦理使用的讨论。可解释人工智能(XAI)领域通过提出解释来解决这一挑战，揭示复杂黑箱模型的决策过程。尽管解释的鲁棒性是提升系统整体可信度的关键，但在开发过程中常被忽视。本文通过使用从多个模型(k-最近邻、随机森林和神经网络)中获得的特征重要性聚合，探讨了鲁棒性的作用。初步结果表明，通过聚合多模型的解释潜在地能提升应用的可信度，同时发挥多个模型预测能力。
引用
@article{arxiv.2510.11164,
title = {Beyond single-model XAI: aggregating multi-model explanations for enhanced trustworthiness},
author = {Ilaria Vascotto and Alex Rodriguez and Alessandro Bonaita and Luca Bortolussi},
journal= {arXiv preprint arXiv:2510.11164},
year = {2025}
}
备注
Accepted at the European Workshop on Trustworthy Artificial Intelligence (TRUST-AI), co-located within ECAI 2025