面向公平与鲁棒图像分析的因果与统计数据集偏差入门

机器学习方法在现实世界部署时常常失败。更糟糕的是，它们在高风险情形下以及跨越社会敏感界限时也会失败。这些问题对在医疗诊断等场景中采用机器学习方法产生了寒蝉效应，而在这些场景中，若能安全部署，它们 arguably 最有希望带来益处。在本入门中，我们介绍了导致图像分析机器学习方法失败的因果与统计结构。我们重点指出了两个先前被忽视的问题，我们将其称为“没有公平的午餐”问题和“子群可分性”问题。我们阐明了当今的公平表示学习方法为何无法充分解决这些问题，并为该领域提出了潜在的推进路径。