用户对自动化职业推荐中性别刻板印象的接受度
计算机与社会
2021-07-29 v2 人工智能
机器学习
摘要
当前，公平人工智能（AI）与机器学习（ML）研究兴趣激增，旨在缓解 AI 算法中的歧视性偏差，例如沿性别、年龄与种族的偏差。尽管该领域多数研究聚焦于开发公平的 AI 算法，本工作中我们表明，仅靠公平的 AI 算法本身可能不足以在现实世界中达成其预期结果。以职业推荐为案例，我们通过采用性别去偏机器学习技术构建了一个公平的 AI 职业推荐器。我们的离线评估显示，去偏推荐器在不牺牲准确性的情况下做出了更公平的职业推荐。然而，一项超过 200 名大学生的在线用户研究表明，参与者平均偏好原始有偏系统胜过去偏系统。具体而言，我们发现感知到的性别差异是推荐接受度的决定性因素。换言之，我们的结果表明，若不解决人类中的性别偏见，便无法完全解决 AI 推荐中的性别偏见问题。
引用
@article{arxiv.2106.07112,
title = {User Acceptance of Gender Stereotypes in Automated Career Recommendations},
author = {Clarice Wang and Kathryn Wang and Andrew Bian and Rashidul Islam and Kamrun Naher Keya and James Foulds and Shimei Pan},
journal= {arXiv preprint arXiv:2106.07112},
year = {2021}
}