基于 SMILE 的点云神经网络可解释性：统计模型无关性解释的本地解释
机器学习
2024-10-22 v1 人工智能
计算机视觉与模式识别
摘要
在当今世界，解释型人工智能（XAI）的重要性在机器人和点云应用中日益增长，因为决策透明性的缺乏可能在自主系统中构成重大安全风险。随着这些技术被集成到实际环境中，确保模型决策可解释且可信赖对于操作可靠性和安全保证至关重要。本研究探讨了将 SMILE 这种新型可解释性方法实现于基于点云的模型上的可能性。SMILE 基于 LIME，通过引入经验累积分布函数（ECDF）统计距离，提供了在使用 Anderson-Darling 距离时更具鲁棒性和可解释性的优势。该方法在各种核宽度、扰动数量和聚类配置下，在保真度损失、R2 分数和鲁棒性方面表现优异。此外，本研究引入了基于 Jaccard 指数对点云数据稳定性分析，为该领域的模型稳定性建立了新的基准和基线。本研究进一步识别了“person”类别分类中的数据偏见，强调在自主驾驶和机器人等安全关键应用中需要更全面的数据集。结果凸显了高级可解释性模型的潜力，并为未来研究的领域，包括在点云数据中应用替代代理模型和可解释性技术，提供了方向。
关键词
引用
@article{arxiv.2410.15374,
title = {Explainability of Point Cloud Neural Networks Using SMILE: Statistical Model-Agnostic Interpretability with Local Explanations},
author = {Seyed Mohammad Ahmadi and Koorosh Aslansefat and Ruben Valcarce-Dineiro and Joshua Barnfather},
journal= {arXiv preprint arXiv:2410.15374},
year = {2024}
}
备注
17 pages, 9 figures