Tournesol：探寻大型、安全且可信赖的可靠人类判断数据库

当今的大规模算法已极具影响力，它们每日向数十亿人类推荐并审核其所接触的内容。它们是我们社会信息饮食的事实监管者，从塑造公共卫生舆论到组织社会运动团体皆然。这引发了严重关切，但也带来了推广优质信息的重大机遇。应对关切并把握机遇是一项艰巨、庞大而非凡的事业，因为直觉上吸引人的想法常伴随不受欢迎的副作用，且它要求我们思考我们深层偏好什么。理解当今大规模算法的构建方式，对于确定何种干预最为有效至关重要。鉴于这些算法严重依赖机器学习，我们作出如下关键观察：任何基于不受控数据训练的算法都不可被信任。事实上，恶意实体可能控制数据，以危险操纵性的伪造输入毒化它，从而使训练出的算法极不安全。因此我们主张，迈向安全且合乎伦理的大规模算法的第一步，必须是收集一个大型、安全且可信赖的可靠人类判断数据集。为此，我们引入 Tournesol，一个开源平台，可在 https://tournesol.app 获取。Tournesol 旨在收集关于算法应当广泛推荐什么（以及应当停止广泛推荐什么）的人类判断大型数据库。我们概述了 Tournesol 数据库的结构、Tournesol 平台的关键特性，以及使其成为一个成功项目必须克服的主要障碍。最重要的是，我们认为，若获成功，Tournesol 可由此成为任何安全且合乎伦理的大规模算法的重要基础。