设计算法代理：人机交接中的不可区分性作用

随着 AI 技术的改进，人们越来越愿意将任务委托给 AI 代理。在许多情况下，人类决策者会根据其面临的决策问题特定实例的属性来选择是否委托给 AI 代理。由于人类通常对给定决策实例中与此选择相关的所有因素缺乏完全认知，他们会进行一种分类，即将不可区分的实例——那些具有相同可观测特征的实例——视为相同。在本文中，我们定义了在存在类别的情况下设计最优算法代理的问题。这是设计与人协作的算法的一个重要维度，因为我们表明最优代理作为队友可以任意优于最优独立算法代理。这个最优委托问题的解决方案并不显而易见：我们发现该问题本质上是组合的，并阐明了即使在简单环境中，最优设计与决策任务属性之间的复杂关系。事实上，我们表明在一般情况下寻找最优代理在计算上是困难的。然而，我们能够在该问题的几个广泛情形中找到生成最优代理的高效算法，包括最优动作可以分解为由人类和算法观察到的特征的函数的情况。最后，我们运行计算实验来模拟设计者随时间更新算法代理以优化其在被用户实际采用时的表现，并表明虽然这一过程在一般情况下无法恢复最优代理，但所得代理通常表现相当好。