超越可解释人工智能（XAI）： overdue 的范式转变与后 XAI 研究方向
计算机与社会
2026-05-26 v5
摘要
本研究对可解释人工智能（XAI）方法进行跨学科审视，聚焦于深度神经网络（DNNs）和大语言模型（LLMs），并识别当前 XAI 中的实证与概念局限性。我们讨论了源于更深层根本原因（即两个悖论、两个概念混淆以及五个错误假设）的关键症状。这些在当前 XAI 研究领域中的根本问题揭示了三个洞见：实验上，XAI 存在显著缺陷；概念上，它悖论可疑；实际中，进一步尝试改造悖论性的 XAI 可能会恶化其混淆，要求彻底的范式转变和新的研究方向。为超越 XAI 的局限性，我们提出了四向综合范式转变，旨在实现可靠且认证的 AI 开发。这四个组成部分包括：以验证为导向的交互式人工智能（Interactive AI, IAI），以建立科学社区认证 AI 系统性能的协议，而非尝试事后解释；AI 认识论，以严格的科学基础为支撑；以用户可感知为导向的人工智能（User-Sensible AI），以针对特定用户社区创建情境感知系统；以及以模型为中心的可解释性（Model-Centered Interpretability），为忠实的技术分析提供支持，共同为后 XAI 研究方向提供了全面的解决方案。
引用
@article{arxiv.2602.24176,
title = {Beyond Explainable AI (XAI): An Overdue Paradigm Shift and Post-XAI Research Directions},
author = {Saleh Afroogh and Syed Ishtiaque Ahmed and Petra Ahrweiler and David Alvarez-Melis and Mansur Maturidi Arief and Emilia Barakova and Falco J. Bargagli-Stoffi and Erdem Biyik and Hanjie Chen and Xiang 'Anthony' Chen and Robert Alan Clements and Keeley Crockett and Amit Dhurandhar and Fethiye Irmak Dogan and Mollie Dollinger and Motahhare Eslami and Aldo A Faisal and Arya Farahi and Melanie F. Pradier and Saadia Gabriel and Diego Garcia-Olano and Marzyeh Ghassemi and Shaona Ghosh and Hatice Gunes and Ehsan Hajiramezanali and Stefan Haufe and Biwei Huang and Angel Hwang and Md Tauhidul Islam and Junfeng Jiao and Amir-Hossein Karimi and Saber Kazeminasab and Anastasia Kuzminykh and William La Cava and Brian Y. Lim and Xiaofeng Liu and Mohammad R. K. Mofrad and Alicia Parrish and Maria Perez-Ortiz and Shriti Raj and Swabha Swayamdipta and Salmonn Talebi and Kush R. Varshney and Mihaela Vorvoreanu and Lily Weng and Alice Xiang and Yiming Xu and Ding Zhao and Jieyu Zhao},
journal= {arXiv preprint arXiv:2602.24176},
year = {2026}
}