面向医疗保健视角的推荐系统公平性理解
机器学习
2024-09-10 v2 信息检索
摘要
公平性在AI驱动的决策系统中已成为关键关注议题，尤其当这些系统直接影响人类生命时。本文探讨了公众对医疗保健推荐中公平性的理解程度。我们进行了一次调查，参与者在不同医疗情境下从四种公平性度量标准中进行选择，即人口统计学公平性(Demographic Parity)、等效准确性(Equal Accuracy)、等效机会(Equalized Odds)和正预测值(Positive Predictive Value)，以评估他们对这些概念的理解水平。我们的发现表明，公平性是一个复杂且常被误解的概念，关于推荐系统中公平性度量标准的公众理解水平普遍较低。这一研究突显了在支持这些系统使用中的知情决策方面的教育和信息提升的必要性。此外，结果表明，单一的通用公平性方法可能不够，强调在开发公平AI系统时具有上下文敏感性的设计的重要性。
引用
@article{arxiv.2409.03893,
title = {Understanding Fairness in Recommender Systems: A Healthcare Perspective},
author = {Veronica Kecki and Alan Said},
journal= {arXiv preprint arXiv:2409.03893},
year = {2024}
}
备注
Accepted to the 18th ACM Conference on Recommender Systems