算法公平性：运行时视角

算法公平性传统上被视为在固定数据集上评估一次的静态属性。然而，现实中的 AI 系统是顺序式运行的，结果和环境随时间演化。本文提出了一个将公平性作为运行时属性进行分析的框架。基于由可能演化的偏置的硬币抛掷序列构成的最小且富有表达力的模型，我们研究了以硬币抛掷结果或硬币偏置形式表达的公平性监控与执行问题。由于没有一种百搭方案适用于上述两种问题，我们提供一系列监控与执行策略的概述，这些策略以环境动力学、预测时限和置信阈值为参数化。对于这两个问题，我们在简单或最小假设下给出一般结果。我们调查了针对马尔可夫型和加性动力学的监控问题的现有解决方案，以及针对静态设置中已知动力学的执行问题的现有解决方案。