用户策略化与可信算法

许多面向人类的算法——包括那些驱动推荐系统或招聘决策工具的算法——是在其用户提供的数据上训练的。这些算法的开发者通常假设数据生成过程是外生的：即用户对给定提示（例如推荐或招聘建议）的反应取决于提示本身，而非生成它的算法。例如，假设一个人的行为遵循真实分布就是一个外生性假设。在实践中，当算法与人类交互时，这种假设很少成立，因为用户可能具有策略性。最近的研究记录，例如，TikTok用户在了解到TikTok利用他们的滚动行为来策划信息流后改变了滚动行为，以及Uber司机为了应对Uber算法的变化而改变接受和取消行程的方式。我们的工作通过将用户与其数据驱动平台之间的交互建模为一个重复的双人博弈，研究了这种策略行为的影响。我们首先发现，用户策略化实际上可以在短期内帮助平台。然后我们表明，它破坏了平台的数据，并最终损害了平台做出反事实决策的能力。我们将这一现象与用户信任联系起来，并表明设计可信算法可以与准确估计相辅相成。最后，我们提供了一个可信性的形式化定义，以启发潜在的干预措施。