部分观测下的算法公平性监控
人工智能
2023-08-02 v1 机器学习
摘要
随着AI和机器学习软件越来越多地用于做出影响人类的决策，它们必须在决策中保持公平且无偏。为补充设计时的偏差缓解措施，近期引入了运行时验证技术以监控已部署系统的算法公平性。以往的监控技术假定被监控系统（未知）状态完全可观测，且只能监控以不同事件概率上的算术表达式指定的公平性性质。本工作中，我们将公平性监控扩展至建模为部分观测马尔可夫链（POMC）的系统，以及包含事件序列上数值函数期望值的算术表达式的规范。我们仅假设底层POMC为非周期且始于平稳分布，并已知其混合时间的上界。这些假设使我们能够通过仅观测单次执行，来估计被监控POMC所有可能执行分布的给定性质。我们的监控器观测系统长时间运行，并在每次新观测后输出关于系统公平或偏倚程度的更新PAC估计。监控器计算轻量，并通过原型实现在多个真实世界示例中展示了其有效性。
引用
@article{arxiv.2308.00341,
title = {Monitoring Algorithmic Fairness under Partial Observations},
author = {Thomas A. Henzinger and Konstantin Kueffner and Kaushik Mallik},
journal= {arXiv preprint arXiv:2308.00341},
year = {2023}
}
备注
The extended version of the paper, with the same title, published in 23rd International Conference on Runtime Verification (RV'23)