可解释生成式 AI (GenXAI)：综述、概念化与研究议程
人工智能
2024-04-16 v1
摘要
生成式 AI (GenAI) 标志着 AI 从能够识别转变为能够为各种任务生成解决方案。随着生成的解决方案和应用变得越来越复杂和多面，可解释性 (XAI) 出现了新的需求、目标和可能性。在本研究中，我们详细阐述了为什么随着 GenAI 的兴起，XAI 变得重要，以及它对可解释性研究带来的挑战。我们还揭示了解释应满足的新的和新兴的期望属性，涵盖可验证性、交互性、安全性和成本等方面。为此，我们重点对现有工作进行了综述。此外，我们提供了一个相关维度的分类法，使我们能够更好地表征现有的 XAI 机制和 GenAI 方法。我们讨论了确保 XAI 的不同途径，从训练数据到提示。我们的论文为非技术读者提供了简明扼要的 GenAI 技术背景，重点关注文本和图像，以更好地理解 GenAI 的新颖或改编的 XAI 技术。然而，由于 GenAI 相关的工作浩如烟海，我们决定省略与解释的评估和使用相关的 XAI 详细方面。因此，该手稿既引起了技术导向人士的兴趣，也引起了其他学科（如社会科学家和信息系统研究人员）的兴趣。我们的研究路线图为未来的调查提供了十多个方向。
引用
@article{arxiv.2404.09554,
title = {Explainable Generative AI (GenXAI): A Survey, Conceptualization, and Research Agenda},
author = {Johannes Schneider},
journal= {arXiv preprint arXiv:2404.09554},
year = {2024}
}