后置局部 XAI 技术在图像处理中的现状：挑战与动机
计算机视觉与模式识别
2025-01-14 v1 人工智能
摘要
随着复杂AI系统在我们生活中发挥越来越重要的作用，一个持续且关键的问题是这些产品和系统的底层黑箱本质。为了实现生产力的提升，不能忽视各种技术以提高这些AI系统整体可信度的需求。其中一个例子，即本文所深入研究的领域，是解释性人工智能（XAI）领域。该领域的研究工作集中在于使AI系统更加透明和可解释，以进一步提升使用它们的可靠性和信任度。在本文中，我们讨论了XAI的各种动机及其方法、XAI面临的挑战，以及我们认为值得进一步关注的一些开放问题。我们还简要讨论了各种图像处理XAI方法，最后讨论了一些未来方向，以期表达并激励XAI研究领域的积极发展。
引用
@article{arxiv.2501.06253,
title = {The State of Post-Hoc Local XAI Techniques for Image Processing: Challenges and Motivations},
author = {Rech Leong Tian Poh and Sye Loong Keoh and Liying Li},
journal= {arXiv preprint arXiv:2501.06253},
year = {2025}
}