可解释AI研究中不合理的样本量与被泛化问题：迈向更具包容性用户研究的原则
人工智能
2023-10-17 v2 人机交互
摘要
许多伦理框架要求人工智能（AI）系统具有可解释性。可解释AI（XAI）模型常在用户研究中被测试其适用性。由于不同人可能有不同的解释需求，用户研究中的参与者样本需足够大以代表目标人群从而实现泛化，这一点十分重要。然而，目前尚不清楚XAI研究者在多大程度上反思并论证其样本量，或避免跨人群广泛泛化。我们分析了2012至2022年间发表的XAI用户研究（n = 220）。多数研究未提供样本量的理由。此外，多数论文将其结论泛化至目标人群之外，且无证据表明定量研究中更广泛的结论与更大样本量相关。这些方法论问题会阻碍对XAI系统是否落实了伦理框架所要求的可解释性的评估。我们提出了更具包容性XAI用户研究的原则。
引用
@article{arxiv.2305.09477,
title = {Unjustified Sample Sizes and Generalizations in Explainable AI Research: Principles for More Inclusive User Studies},
author = {Uwe Peters and Mary Carman},
journal= {arXiv preprint arXiv:2305.09477},
year = {2023}
}
备注
3 tables, 1 figure