搜索更少歧视算法的法律义务

计算机科学领域已证明，针对给定预测问题，几乎总存在多个性能等效的模型——这一现象常被称为模型多重性。关键在于，虽然不同模型的性能等效，但对相同个体的预测可能不同，并在整体上在人口统计组之间展现出不同的影响程度。因此，当算法系统显示差异影响时，模型多重性表明开发者可能发现等效性能的替代模型，从而减少歧视性影响。模型多重性的承诺在于，总会存在一种等效准确但更少歧�的算法(LDA)。然而，若不进行专门的探索，开发者不太可能发现潜在的LDA。模型多重性及LDA的可用性对算法歧视的法律回应具有重大影响，尤其是差异影响原则，该原则长期以来已考虑在评估责任时，等效且影响较小的替代方案的可用性。对数 authority 的深入分析表明，法律在诸多情况下认识到，较少歧�替代方案的存在有时是被告为正当化承担责任的第二个步骤的相关因素。根据差异影响原则，若某算法系统由雇主、信贷机构或房地产提供商使用，却声称其“必要”，而等效准确且影响较小的模型可用且通过合理努力即可被发现，那么这种说法几乎没有意义。因此，我们主张应对开发和部署受监管民事权利领域内预测模型的实体，实施合理搜索LDA的法律义务。