与算法的对话
计算机与社会
2023-09-20 v1
摘要
在这篇短文中，我们关注用于执法的基于规则的软件中的人在回路。例如，可以想到计算罚款的软件（如行车记录仪软件）、准备证据的软件（如DNA测序软件）或用于在高风险区域巡逻的社会画像软件等。法律人类主体与软件应用之间的一个重要区别在于可能的对话。人类主体可以被质询以说明其决策动机。通常，与软件的此类对话即便不是完全不可能，也极为困难。我们观察到，对话的缺失可能真正侵犯透明性或可争议性等公民权利与法律原则。因此，与法律算法的可能对话至少是高度可取的。尽管这听起来颇具未来感，我们观察到在形式化方法的多个领域中，此类对话很容易获得。然而，这引发了对话语言的可表达性与相应计算的可行性之间的常见张力。
引用
@article{arxiv.2309.10678,
title = {Dialogues with algorithms},
author = {Joost J. Joosten},
journal= {arXiv preprint arXiv:2309.10678},
year = {2023}
}