算法社会中的问责制：机器学习中的关系性、责任与鲁棒性
计算机与社会
2022-05-17 v3 人工智能
机器学习
摘要
1996年，《计算机化社会中的问责制》[95] 发出了一个响亮的呼吁，指出由于将重要功能普遍委托给计算机化系统，社会中的问责制正在受到侵蚀。Nissenbaum [95] 描述了计算机化带来的四个问责障碍，我们结合数据驱动的算法系统（即机器学习或人工智能）的兴起重新审视这些障碍，以揭示这些系统为问责制带来的新挑战。Nissenbaum的原始论文将障碍的讨论建立在道德哲学的基础上；我们将这一分析与近期关于关系性问责框架的学术研究结合起来，并讨论了这些障碍如何为在数据驱动的算法系统中实例化一个统一的道德、关系框架带来困难。最后，我们讨论了削弱这些障碍以实现这一目标的方法。
引用
@article{arxiv.2202.05338,
title = {Accountability in an Algorithmic Society: Relationality, Responsibility, and Robustness in Machine Learning},
author = {A. Feder Cooper and Emanuel Moss and Benjamin Laufer and Helen Nissenbaum},
journal= {arXiv preprint arXiv:2202.05338},
year = {2022}
}