这看起来像什么？部分原型模型的挑战与未来研究方向
机器学习
2026-03-20 v2
摘要
面向人类可解释人工智能 (XAI) 的日益增长的兴趣刺激了研究内置可解释性模型的工作，其中部分原型模型 (PPM) 尤为突出。部分原型模型 (PPM) 通过将输入与学习到的原型进行比较来对输入进行分类，并提供形式为“这看起来像那个”的人类可理解解释。尽管具有内在可解释性，PPM 尚未成为后置解释方法的有竞争力的替代方案。本综述回顾了 2019 年至 2025 年间发表的工作，并从 taxonomy 的角度概述了当前 PPM 所面临的各种挑战。分析揭示了一系列开放问题。主要问题关乎所学习原型的质量和数量。进一步的挑战包括在不同任务和情境中的有限泛化，以及方法层面的不足，如缺乏标准化评估。本文识别出五大研究方向：提高预测性能、发展有理论依据的体系结构、建立人类-人工智能协作框架、使模型与人类概念相吻合，以及定义用于评估的稳健指标和基准。本综述旨在激励进一步的研究并推动实用应用中使用内置可解释模型。已审阅的论文 curated list 可在 https://github.com/aix-group/ppm-survey 查阅。
引用
@article{arxiv.2502.09340,
title = {This looks like what? Challenges and Future Research Directions for Part-Prototype Models},
author = {Khawla Elhadri and Tomasz Michalski and Adam Wróbel and Jörg Schlötterer and Bartosz Zieliński and Christin Seifert},
journal= {arXiv preprint arXiv:2502.09340},
year = {2026}
}
备注
Accepted at the 4th World Conference on eXplainable Artificial Intelligence (XAI-2026)