建模假设与现实世界的冲突：学生分配算法中的透明度、公平性与社区挑战
人机交互
2021-01-27 v1 计算机与社会
计算机科学与博弈论
摘要
在美国，越来越多的学区正转向匹配算法来将学生分配到公立学校。这些算法的设计者旨在促进诸如透明度、公平性和社区参与等价值。然而，学区在部署中遇到了实际挑战。事实上，旧金山联合学区已投票决定停止使用并完全重新设计其学生分配算法，因为它在实践中并未促进教育公平。我们使用价值敏感设计（Value Sensitive Design）方法分析该系统，发现价值在实践中未实现的一个原因是，该系统依赖于关于家庭优先级、约束和目标的建模假设，而这些假设与现实世界相冲突。这些假设忽视了许多家庭因社会经济不平等而面临的理想参与的复杂障碍。我们认为，与利益相关者的直接、持续参与对于使算法价值与现实世界条件对齐至关重要。在此过程中，我们必须拓宽算法评估的方式，同时认识到纯算法解决方案在解决复杂社会政治问题上的局限性。
引用
@article{arxiv.2101.10367,
title = {Modeling Assumptions Clash with the Real World: Transparency, Equity, and Community Challenges for Student Assignment Algorithms},
author = {Samantha Robertson and Tonya Nguyen and Niloufar Salehi},
journal= {arXiv preprint arXiv:2101.10367},
year = {2021}
}