通过社会目标函数将民主价值观嵌入社交媒体 AI

我们能否设计人工智能(AI)系统,在其目标函数中对社交媒体信息流进行排序时考虑诸如缓解党派敌意等民主价值观?我们引入一种将既有的、经审查的社会科学构念转化为 AI 目标函数的方法,称之为社会目标函数,并以政治学中反民主态度这一构念为例演示该方法。传统上,我们缺乏用于训练此类模型的可观测结果,然而社会科学已为这些构念开发了调查工具和定性编码手册,其精确性便于转化为大语言模型的详细提示。我们应用该方法创建一个民主态度模型,用于估计社交媒体帖子助长反民主态度的程度,并通过三项研究测试该民主态度模型。在研究 1 中,我们首先通过人工标注(α=.895)具有反民主态度分数的社交媒体帖子,并基于这些分数测试若干信息流排序条件,在美国党派人士(N=1,380)中测试该干预的态度与行为有效性。移除(d=.20)和降权信息流(d=.25)降低了参与者的党派敌意,且不损害其体验与参与度。在研究 2 中,我们通过创建民主态度模型来扩展人工标注规模,发现其与人工标注高度一致(ρ=.75)。最后,在研究 3 中,我们使用民主态度模型替代人工标注复制研究 1 以测试其态度与行为影响(N=558),再次发现使用社会目标函数的信息流降权降低了党派敌意(d=.25)。该方法提出了一种借助社会科学理论与方法缓解社交媒体 AI 中社会危害的新策略。