社会在环：编程算法社会契约
计算机与社会
2017-08-18 v2
摘要
近期人工智能（AI）和机器学习的快速发展，引发了许多关于自主机器监管和治理机制的问题。许多评论员、学者和政策制定者现在呼吁，确保支配我们生活的算法是透明、公平和可问责的。在此，我提出一个用于监管 AI 和算法系统的概念框架。我认为，我们需要工具来编程、调试和维护一种算法社会契约，即由机器介导的、不同人类利益相关者之间的契约。为实现这一目标，我们可以借鉴建模与仿真以及交互式机器学习领域中的人机在环（human-in-the-loop, HITL）概念。特别地，我提出了一个我称之为社会在环（society-in-the-loop, SITL）的议程，它将 HITL 控制范式与协商受 AI 系统影响的各利益相关者价值观、以及监督协议遵守情况的机制结合起来。简而言之，`SITL = HITL + 社会契约`。
引用
@article{arxiv.1707.07232,
title = {Society-in-the-Loop: Programming the Algorithmic Social Contract},
author = {Iyad Rahwan},
journal= {arXiv preprint arXiv:1707.07232},
year = {2017}
}
备注
(in press), Ethics of Information Technology, 2017