论制度信任：建模社区采用强化学习政策的信任度

许多政府部门正在采用人工智能政策进行决策。特别是，强化学习被用于设计预期公民遵循的政策。大量强化学习工作假设公民遵循这些政策，并据此对其进行评估。然而，我们已知在缺乏制度信任的情况下，公民不会遵循政府实施的政策。本文发展了面向社区资源分配的信任感知强化学习算法。我们考虑人道主义工程情景，即组织旨在向社区成员分发某种技术或资源。我们采用深度确定性策略梯度方法学习资源分配方案，以满足组织需求。随后，我们模拟根据所学策略进行的资源分配，并建模社区成员制度信任的变化。我们研究制度信任的纳入对结果的影响，探讨当信任值为私有时，组织能否有效学习政策。我们发现，将信任纳入强化学习算法可导致更成功的政策，特别是在组织目标不够确定时效果更佳。我们发现更保守的信任估计会导致公平性和社区信任水平提高，但组织成功率受损。最后，我们探讨了防止社区不公平结果的策略。我们实施一个由外部实体设定的配额制度，当组织未为足够多的社区成员服务时会降低其效用。我们发现，这一干预在某些情况下可改善社区的公平性和信任，同时降低组织的成功率。本工作凸显了制度信任在算法设计和实施中的重要性，并识别了组织成功与社区福祉之间的张力。