算法公平性的信息流视角

本文展示了通过研究算法公平性与安全信息流概念之间的关系所获得的见解。在信息安全背景下，强制安全信息流的问题已得到充分研究：如果秘密信息可能通过算法或程序“流动”，从而影响程序的输出，则被视为不安全的信息流，因为攻击者可能观察到秘密的（部分）信息。安全信息流与算法公平性之间存在强对应关系：如果将种族、性别或年龄等受保护属性视为秘密程序输入，那么安全信息流意味着这些“秘密”属性不能影响程序的结果。虽然大多数算法公平性评估研究集中于分析算法的影响（通常将算法视为黑盒），但从信息流推导出的概念既可用于分析差别对待，也可用于分析相对于结构因果模型的差别影响。在本文中，我们研究了定量和定性信息流属性与公平性之间的关系。此外，基于这种对偶性，我们推导出一种新的定量公平性概念，称为公平性扩展，它可以使用定量信息流轻松分析，并且与反事实公平性密切相关。我们证明，现成的信息流属性工具可用于正式分析程序的算法公平性属性，包括新的公平性扩展概念以及已确立的概念（如人口统计均等）。