基于项目反应理论的示例式解释
机器学习
2022-10-05 v1 人工智能
摘要
使用机器学习分类算法的智能系统在日常社会中越来越普遍。然而，许多系统使用黑盒模型，不具备可对其预测进行自我解释的特性。这种情况使该领域的研究者和社会面临如下问题：我如何能信任一个我无法理解的模型的预测？在此意义上，XAI（可解释人工智能）作为 AI 的一个领域兴起，旨在创造能够向最终用户解释分类器决策的技术。由此出现了若干技术，例如示例式解释（Explanation-by-Example），目前已有少数由从事 XAI 的社区所巩固的举措。本研究探索将项目反应理论（Item Response Theory, IRT）作为工具，用于解释模型并衡量示例式解释方法的可靠程度。为此，使用了四个具有不同复杂度的数据集，并以随机森林（Random Forest）模型作为假设检验。根据测试集，83.8% 的错误来自于 IRT 指出模型不可靠的实例。
引用
@article{arxiv.2210.01638,
title = {Explanation-by-Example Based on Item Response Theory},
author = {Lucas F. F. Cardoso and José de S. Ribeiro and Vitor C. A. Santos and Raíssa L. Silva and Marcelle P. Mota and Ricardo B. C. Prudêncio and Ronnie C. O. Alves},
journal= {arXiv preprint arXiv:2210.01638},
year = {2022}
}
备注
15 pages, 5 figures, 3 tables, submitted for the BRACIS'22 conference