可解释 AI 中的基于原型方法及地球科学中的新兴机遇
机器学习
2024-10-29 v1 大气与海洋物理
摘要
基于原型的方法是本质上可解释的 XAI 方法，它通过将输入数据与一组代表训练数据的学习原型示例进行比较来产生预测和解释。在这项工作中，我们讨论了基于原型的 XAI 领域的一系列发展，这些发展显示出在科学学习任务中的潜力，重点关注地球科学。我们将基于原型的 XAI 文献组织为三个主题：原型的开发与可视化、原型的类型，以及原型在各种学习任务中的使用。我们讨论了作者如何使用基于原型的方法、他们的新颖贡献，以及在将这些方法适应于地球科学学习任务时可能出现的任何局限性或挑战。我们强调了地球科学数据集与用于开发 XAI 方法的标准基准之间的差异，并讨论了特定的地球科学应用如何受益于使用或修改现有的基于原型的 XAI 技术。
引用
@article{arxiv.2410.19856,
title = {Prototype-Based Methods in Explainable AI and Emerging Opportunities in the Geosciences},
author = {Anushka Narayanan and Karianne J. Bergen},
journal= {arXiv preprint arXiv:2410.19856},
year = {2024}
}
备注
Accepted at AI for Science Workshop-Oral (Attention Track), Proceedings of 41st International Conference on Machine Learning (ICML) 2024