面向地球系统科学的可解释人工智能应用
人工智能
2024-06-19 v1 机器学习
摘要
近年来，人工智能 (AI) 快速加速其影响，并在得到妥善利用时预计能推动地球系统科学 (ESS) 的发展。在将 AI 应用于 ESS 时，一个重要障碍在于解释性困境，这源于 AI 算法复杂性引起的黑箱本质。为了解决这一问题，可解释 AI (XAI) 提供了一套强大的工具，使模型更加透明。本综述旨在实现两个目标：首先，为 ESS 学者，尤其是新人，提供对 XAI 的基础性理解，作为激发未来研究进步的 primer；其次，鼓励 ESS 专业人士拥抱 AI 的好处，摆脱因缺乏解释性而带来的偏见。我们首先阐述了 XAI 的概念，以及典型方法。随后，我们检阅了 XAI 在 ESS 文献中的应用，突出其在促进与 AI 模型决策的沟通、改进模型诊断和发现科学洞见方面发挥的重要作用。我们识别了 XAI 在 ESS 中面临的四个重要挑战，并提出了解方策。此外，我们提供了多元视角的全面示例。鉴于 ESS 的独特挑战，一种可解释的混合方法，无缝整合 AI 与领域特定知识，似乎是增强 AI 在 ESS 中实用性的有前景的途径。对 ESS 的愿景前瞻描绘了一种和谐融合，其中基于过程的模型主宰已知领域，AI 模型探索未知领域，XAI 通过提供解释来搭建两者之间的桥梁。
引用
@article{arxiv.2406.11882,
title = {Applications of Explainable artificial intelligence in Earth system science},
author = {Feini Huang and Shijie Jiang and Lu Li and Yongkun Zhang and Ye Zhang and Ruqing Zhang and Qingliang Li and Danxi Li and Wei Shangguan and Yongjiu Dai},
journal= {arXiv preprint arXiv:2406.11882},
year = {2024}
}