SCALES：从公平性原则到约束决策制定
机器学习
2022-09-23 v1 人工智能
计算机与社会
摘要
本文提出 SCALES，一个将既有的公平性原则转化为基于约束马尔可夫决策过程 (CMDP) 的通用表示的框架。借助因果语言，我们的框架可对决策过程（程序公平）与决策导致的结果（结果公平）二者施加约束。具体而言，我们表明知名的公平性原则可被编码为 SCALES-CMDP 中的效用分量、非因果分量或因果分量。我们利用一组涉及模拟医疗场景与真实世界 COMPAS 数据集的案例研究来说明 SCALES。实验表明我们的框架在单步与序贯决策场景中产生了体现替代公平性原则的公平策略。
引用
@article{arxiv.2209.10860,
title = {SCALES: From Fairness Principles to Constrained Decision-Making},
author = {Sreejith Balakrishnan and Jianxin Bi and Harold Soh},
journal= {arXiv preprint arXiv:2209.10860},
year = {2022}
}
备注
Accepted to the 2022 AAAI/ACM Conference on AI, Ethics, and Society (AIES '22), Updated version with additional citations, 14 pages