挑战算法决策中的人类在环
机器学习
2024-08-21 v2
摘要
我们从技术和哲学视角讨论人类在算法决策（ADM）中所扮演角色，特别是聚焦于由此产生的多样化期望、价值观及约束。为此，我们设定一个策略决策者（SDM）引入ADM以优化战略与社会目标，而算法推荐行动则由具体的人类在环决策者（PDM）进行监督，后者作出最终决定。虽然PDM通常被假设为纠错者，但其可能抵消SDM所实现的目标及其期望的社会价值，至少部分原因在于价值观不一致以及PDM信息需求未被满足。这对ADM中利益相关者之间的权力分配、约束条件及信息需求具有重大影响。特别是，我们强调监督PDM作为潜在政治和伦理决策者的角色，预期其平衡战略性、价值导向的目标与现实中的个体决策及约束。我们通过在机器学习基准数据集上进行实证研究，展示了即便PDM仅能执行有限数量的与算法建议不同的行动，其决策对结果也具有显著影响。为确保SDM所设定的价值得以实现，PDM需要获得通过量身定制的解释性信息传递的适当信息，并明确其角色。我们的发现凸显了深入讨论PDM角色与权力的必要性，挑战了将人类在环 merely 视为确保ADM系统「正确」和「伦理」运行的常用观点。
引用
@article{arxiv.2405.10706,
title = {Challenging the Human-in-the-loop in Algorithmic Decision-making},
author = {Sebastian Tschiatschek and Eugenia Stamboliev and Timothée Schmude and Mark Coeckelbergh and Laura Koesten},
journal= {arXiv preprint arXiv:2405.10706},
year = {2024}
}