通过AI实现公平：医疗信息中的偏见削减
人工智能
2021-09-07 v1 计算机与社会
信息检索
机器学习
摘要
大多数关于AI公平性的研究聚焦于揭示AI系统中的偏见。以更广阔的视角审视公平性可知，AI可服务于更宏大的愿景：从根源上消除社会不平等。具体而言，我们关注健康信息中的不平等，旨在利用AI削减该领域的偏见。搜索引擎与社交媒体背后的AI算法（其中许多基于推荐系统）对在线医疗与健康信息的质量有着超大影响。因此，在服务于在线医疗与健康内容的这些推荐系统中嵌入偏见检测与削减，可能对患者预后与福祉产生超大的积极影响。在本立场论文中，我们做出如下贡献：(1) 受医学教育、社会学与反种族主义见解启发，提出一种新颖的“通过AI实现公平”(Fairness via AI)框架；(2) 定义新术语“bisinformation”（与misinformation相关但不同），并鼓励研究者加以研究；(3) 提出利用AI研究、检测并缓解那些对社会中少数群体造成不成比例伤害的偏见性、有害和/或虚假健康信息；以及(4) 提出若干支柱并给出若干开放问题，以在这一新领域中播下探究的种子。尽管本工作的第(3)部分专门聚焦健康领域，但源于偏见削减与通过AI实现公平研究的基础计算机科学进展与贡献对社会所有领域均具有广泛意义。
引用
@article{arxiv.2109.02202,
title = {Fairness via AI: Bias Reduction in Medical Information},
author = {Shiri Dori-Hacohen and Roberto Montenegro and Fabricio Murai and Scott A. Hale and Keen Sung and Michela Blain and Jennifer Edwards-Johnson},
journal= {arXiv preprint arXiv:2109.02202},
year = {2021}
}
备注
To appear in: The 4th FAccTRec Workshop on Responsible Recommendation at RecSys 2021