缓解大型语言模型导致健康不平等风险的框架
计算与语言
2024-10-15 v2
摘要
近期大型语言模型的进展在诸多医学应用中展现出潜力，尤其在自动化临床试验匹配和增强医学问答方面以支持临床决策。然而，我们的研究表明，将非决定性的社会人口统计因素（如种族、性别、收入水平、LGBT+身份、流浪、文盲、残疾和失业）纳入输入后，大型语言模型会产生针对这些人群的错误和有害输出。这些差异可能在大规模采用大型语言模型于医疗保健领域时，加剧现存的健康差异。为此，我们引入 EquityGuard，一个 novel 框架，用于检测和缓解基于大型语言模型的医疗应用中健康不平等的风险。我们的评估表明其有效性，能够在不同人群中促进公平的结果。
引用
@article{arxiv.2410.05180,
title = {Mitigating the Risk of Health Inequity Exacerbated by Large Language Models},
author = {Yuelyu Ji and Wenhe Ma and Sonish Sivarajkumar and Hang Zhang and Eugene Mathew Sadhu and Zhuochun Li and Xizhi Wu and Shyam Visweswaran and Yanshan Wang},
journal= {arXiv preprint arXiv:2410.05180},
year = {2024}
}