FAIRO：人在回路系统中序贯决策的自适应公平性算法
机器学习
2023-11-08 v2 人工智能
计算机与社会
摘要
在人在回路（HITL）环境中实现序贯决策系统的公平性是一个关键问题，尤其是当具有不同行为和期望的多个个体受到系统中相同自适应决策影响时。这种人类可变因素增加了更多复杂性，因为由于人际和个体内可变性导致的人类偏好变化，在某些时间点被视为公平的策略可能随时间变得具有歧视性。本文从公平性的视角解决了这一问题，考虑了人类行为可变性以及人类偏好随时间的变化。我们提出了FAIRO，一种用于HITL自适应中公平性感知序贯决策的新算法，其将这些概念纳入决策过程。特别地，FAIRO通过利用Options强化学习框架，基于个体人类偏好将该复杂公平任务分解为自适应子任务。我们设计FAIRO推广到具有共享自适应决策问题的三类HITL应用设置。此外，我们认识到公平性感知策略有时会与应用的效用冲突。为应对这一挑战，我们在FAIRO中提供了公平性-效用权衡，允许系统设计者根据特定应用需求平衡公平性和效用的目标。在三个HITL应用上对FAIRO的广泛评估证明了其在考虑人类可变性的同时促进公平性的通用性和有效性。平均而言，FAIRO在所有三个应用上相比其他方法可将公平性提高35.36%。
引用
@article{arxiv.2307.05857,
title = {FAIRO: Fairness-aware Adaptation in Sequential-Decision Making for Human-in-the-Loop Systems},
author = {Tianyu Zhao and Mojtaba Taherisadr and Salma Elmalaki},
journal= {arXiv preprint arXiv:2307.05857},
year = {2023}
}