解释性去偏: 在数据生成过程中涉及领域专家以缓解AI系统中的表示偏差
人机交互
2025-02-28 v2 人工智能
摘要
表示偏差是人工智能 (AI) 系统中最常见的偏差类型之一，导致 AI 模型在数据中未被充分代表的片段上表现不佳。尽管 AI 实践者使用各种方法来减少表示偏差，但其有效性往往受限于去偏过程中缺乏的领域知识。为弥补这一差距，本文提出了一套通用的设计指南，有效地将领域专家纳入表示去偏过程中。我们在一个以医疗保健为导向的应用中实现了所提出的指南，并通过35名医疗专家的综合混合方法用户研究进行了评估。我们的发现表明，涉及领域专家可以在不牺牲模型准确性的情况下减少表示偏差。基于我们的发现，我们也为开发人员提供了建议，以指导他们构建由我们的通用设计指南所支撑的健壮去偏系统，确保更有效地将领域专家纳入去偏过程中。
引用
@article{arxiv.2501.01441,
title = {Explanatory Debiasing: Involving Domain Experts in the Data Generation Process to Mitigate Representation Bias in AI Systems},
author = {Aditya Bhattacharya and Simone Stumpf and Robin De Croon and Katrien Verbert},
journal= {arXiv preprint arXiv:2501.01441},
year = {2025}
}
备注
Pre-print version, please cite the main article instead of the pre-print version