最准确的AI就是最好的队友吗？面向团队协作优化AI

AI从业者通常力求开发最准确的系统，隐含地假定AI系统将自主运行。然而在实践中，AI系统常用于在从刑事司法、金融到医疗等领域中为人们提供建议。在此类AI建议决策中，人类与机器组成一个团队，由人类负责做出最终决策。但最准确的AI就是最好的队友吗？我们认为“不是”——可预测的性能或许值得在AI准确性上稍作牺牲。相反，我们认为AI系统应以人为中心的方式进行训练，直接针对团队性能进行优化。我们针对一种特定类型的人-AI协作研究该提议，其中人类监督者选择接受AI建议或自行完成任务。为优化此设置下的团队性能，我们最大化团队的期望效用，其由最终决策质量、验证成本以及人与机器的各自准确性表示。我们在真实世界高风险数据集上用线性和非线性模型进行的实验表明，最准确的AI未必带来最高的团队性能，并展示了在训练中建模团队协作通过跨数据集在期望团队效用上的提升所带来的益处，同时考虑了人类技能与错误成本等参数。我们讨论了当前优化方法超越如对数损失等已被充分研究的损失函数之外的不足，并鼓励未来开展由人-AI协作驱动的AI优化问题研究。