审计推荐系统——以基于风险场景的方法落实《数字服务法》

当今的在线平台严重依赖推荐系统向用户投放内容；社交媒体便是典型例子。相应地，推荐系统在很大程度上依赖人工智能算法来决定谁看到什么内容。尽管社交媒体平台所提供的内容与其用户一样多样，但已有研究表明，平台可能对个人、群体和社会造成严重危害。研究指出，这些负面影响从加剧个人心理健康问题，到引发足以危及民主制度的社会性两极分化不等。为更好地保护人们免受此类危害，欧盟的《数字服务法》（DSA）要求平台——尤其是用户数量众多的平台——提高其算法系统的透明度并履行尽职调查义务。这些要求构成了缓解在线平台所带来系统性风险的重要立法步骤。然而，DSA缺乏使可行审计流程可操作化的具体指南，以使审计方能够追究这些平台的责任。这一空白可能助长“审计洗白”的蔓延，即平台利用审计使其做法合法化并逃避责任。为填补此空白，我们提出一种基于风险场景的审计流程。我们详细说明了依据DSA对推荐系统进行的审计与评估应当是什么样。我们的方法还考虑了平台的演化特性，并强调其推荐系统组件的可观测性。由此产生的审计有助于内部（同一系统不同时间点的审计之间）与外部（不同平台审计之间）的可比性，同时也便于评估平台自身实施的缓解措施。