面向人类理解的生成式 AI：解释性 AI 的新范式的元需求与设计原则
人工智能
2026-02-13 v2 人机交互
摘要
人工智能（AI）系统越来越多地支持关键领域的决策，但当前的可解释 AI（XAI）方法侧重于算法透明度，而非人类理解。虽然 XAI 方法揭示了模型的计算过程，以便进行模型验证和审计，但最终用户需要的是整合领域知识、情境推理和专业框架的解释。这种断层揭示了根本性的设计挑战：现有的 AI 解释方法未能满足实践者如何理解和依据推荐作出决策的实际需求。本文提出解释性 AI 作为一种补充范式，其中 AI 系统利用生成式和多模态能力，作为人类理解的解释伙伴。与传统 XAI 询问“算法是如何决定的？”以便进行验证不同，解释性 AI 回答的是“这为何是合理的？”以满足从业者做出明智决策的需求。通过理论导向的设计，我们综合了认知科学、传播研究和教育领域的解释观点，并结合了来自医疗保健领域的实证证据和来自 AI 专家访谈的见解。我们的分析识别了五个区分解释性 AI 与传统 XAI 的维度：解释目的（从诊断性转向解释性意义建构）、沟通模式（从静态技术转向动态叙事互动）、认识论立场（从算法对应转向情境合理性）、适应性（从统一设计转向个性化可及性）、认知设计（从信息过载转向认知对齐的交付）。我们提出了五项元需求，规定了系统必须实现的目标，并制定了十项设计原则，规定了如何构建这些目标。
引用
@article{arxiv.2508.06352,
title = {Leveraging Generative AI for Human Understanding: Meta-Requirements and Design Principles for Explanatory AI as a new Paradigm},
author = {Christian Meske and Justin Brenne and Erdi Uenal and Sabahat Oelcer and Ayseguel Doganguen},
journal= {arXiv preprint arXiv:2508.06352},
year = {2026}
}