设计用于半自动检测机器学习偏见的工具：一项访谈研究
计算机与社会
2020-03-19 v2 机器学习
机器学习
摘要
机器学习模型常做出对某些输入数据子群体存在偏见的预测。若未被发现，机器学习偏见可能带来重大的财务与伦理影响。将人类置于回路中的半自动工具可促进偏见检测。然而，关于此类工具设计中所涉及的考量因素，目前知之甚少。在本文中，我们报告了一项针对 11 位机器学习从业者的访谈研究，以调查围绕半自动偏见检测工具的需求。基于研究发现，我们强调了设计中的四项考量，以指导旨在创建未来偏见检测系统的系统设计师。
引用
@article{arxiv.2003.07680,
title = {Designing Tools for Semi-Automated Detection of Machine Learning Biases: An Interview Study},
author = {Po-Ming Law and Sana Malik and Fan Du and Moumita Sinha},
journal= {arXiv preprint arXiv:2003.07680},
year = {2020}
}
备注
Proceedings of the CHI 2020 Workshop on Detection and Design for Cognitive Biases in People and Computing Systems