谁在作弊？基于因果推断的检测策略性适应方法

在许多场景中，机器学习模型可能用于影响影响个体或实体的决策。这些实体或智能体可能通过操纵其对模型的输入来获得更好的结果并最大化某种效用。在多智能体环境中，我们的目标是识别"最恶劣的作弊者："那些最积极作弊的智能体。然而，在缺乏对其效用函数了解的情况下，识别此类智能体很困难。因此，我们引入一个框架，其中每个智能体的作弊倾向通过一个标量参数化。我们展示，该作弊参数只能部分可识别。通过将问题重新表述为因果效应估计问题，其中不同智能体代表不同的"处理"，我们证明了所有智能体按其作弊参数排序的排名是可识别的。我们在合成数据研究中验证了因果效应估计用于作弊检测的用途，并在美国诊断编码行为案例研究中展示，我们的方法突出了与作弊相关的特征。