LUCID：通过逆设计揭示算法偏见
机器学习
2022-08-29 v1 数据结构与算法
摘要
AI系统可以在决策过程中产生、传播、支持和自动化偏见。为减轻有偏见的决策，我们既需要理解偏见的起源，也需要定义算法做出公平决策的含义。大多数群体公平概念通过计算输出的统计度量来评估模型的输出平等性。我们认为这些输出度量面临内在障碍，并提出了一种与日益关注待遇平等相一致的补充方法。通过基于规范逆设计的偏见定位（LUCID），我们生成一组规范集，展示给定偏好输出时模型的期望输入。该规范集揭示了模型的内部逻辑，并通过反复询问决策过程暴露潜在的 unethical 偏见。我们在UCI Adult和COMPAS数据集上评估LUCID，发现规范集检测到的某些偏见与输出度量的偏见不同。结果表明，通过将焦点转向待遇平等并审视算法的内部运作，规范集是算法公平性评估工具箱中的宝贵补充。
引用
@article{arxiv.2208.12786,
title = {LUCID: Exposing Algorithmic Bias through Inverse Design},
author = {Carmen Mazijn and Carina Prunkl and Andres Algaba and Jan Danckaert and Vincent Ginis},
journal= {arXiv preprint arXiv:2208.12786},
year = {2022}
}
备注
9 pages, 5 figures