基于随机森林分类器与 LIME 和 SHAP 的可解释人工智能在医疗应用中的研究
机器学习
2023-11-13 v1 人工智能
计算机与社会
摘要
随着计算高效的人工智能（AI）技术的发展及其在日常活动中的众多应用，迫切需要通过更详尽的解释来理解隐藏于黑盒 AI 技术（如最流行的机器学习和深度学习技术）中的计算细节。可解释 AI（xAI）源于这些挑战，近期因在传统 AI 系统中全面加入可解释性而受到研究者更多关注。这导致开发出合适的框架，以在创新、风险缓解、伦理问题及对用户逻辑价值方面实现 xAI 在真实场景中的成功应用。在本章中，深入分析了若干 xAI 框架与方法，包括 LIME（局部可解释模型无关解释）与 SHAP（SHapley 加性解释）。将随机森林分类器作为黑盒 AI 应用于公开可用的糖尿病症状数据集，并结合 LIME 与 SHAP 以获得更好的解释。所得结果在糖尿病疾病预测的透明性、有效性与可信赖性方面颇具意义。
引用
@article{arxiv.2311.05665,
title = {Explainable artificial intelligence for Healthcare applications using Random Forest Classifier with LIME and SHAP},
author = {Mrutyunjaya Panda and Soumya Ranjan Mahanta},
journal= {arXiv preprint arXiv:2311.05665},
year = {2023}
}
备注
Chapter-6: Accepted Book Chapter in: Transparent, Interpretable and Explainable AI Systems, BK Tripathy & Hari Seetha (Editors), CRC Press, May 2023