算法社会技术系统中的人类自决
计算机与社会
2019-09-17 v1
摘要
为探究算法社会技术系统中人类自决的保护问题，我们研究了可变性、偏差、反馈回路与权力动态等概念之间的关系。我们以推荐系统（RS）为例，聚焦人与算法系统之间的交互，并基于人在回路系统设计与监督控制提供新颖的理论分析，以质疑我们与推荐系统交互中的动态过程。我们探讨了在推荐系统语境下有意义的可靠性监控意味着什么，并阐述了涵盖人—算法交互之指标的必要性。我们推导出一个称为退出壁垒（barrier-to-exit）的指标，它作为用户为使系统识别其偏好变化所需付出努力量的代理变量。我们的目标是凸显推荐系统的假设与局限，并引入一种以人为中心的方法来对抗确定性设计。
引用
@article{arxiv.1909.06713,
title = {Human self-determination within algorithmic sociotechnical systems},
author = {Bogdana Rakova and Rumman Chowdhury},
journal= {arXiv preprint arXiv:1909.06713},
year = {2019}
}
备注
9 pages, 3 figures. To appear in the Proceedings of the Human-Centered AI: Trustworthiness of AI Models & Data (HAI) track at AAAI Fall Symposium, DC, November 7-9, 2019