利用大型语言模型促进健康公平
计算机与社会
2025-01-08 v2
摘要
大型语言模型（LLM）的进展引发了关于其社会影响的广泛兴趣。关于它们将如何影响社会公平的许多讨论是谨慎或负面的，集中在诸如“LLM可能如何产生偏见以及我们如何减轻这些偏见？”等问题上。这是一个至关重要的讨论：人工智能，特别是LLM，可能固化偏见的方式已有充分记录。但同样至关重要且讨论较少的是更注重机会的反驳：“LLM能够实现哪些可能促进公平的有前景的应用？”如果LLM要实现一个更公平的世界，仅仅防御它们的偏见和失败模式是不够的。我们还必须主动出击，将它们积极应用于增强公平的用例，以增加服务不足群体的机会并减少社会歧视。有许多选择决定了人工智能的影响，而流程早期的一个基本选择是我们选择将其应用于哪些问题。如果我们只关注流程后期——在LLM促进本质上固化权力的用例时使其稍微更公平——我们将错过引导它们产生公平影响的重要机会。在此，我们通过提出四个新近可能、有前景的研究方向，同时明确考虑风险和警示点，来强调LLM促进公平的新兴潜力。
引用
@article{arxiv.2312.14804,
title = {Using large language models to promote health equity},
author = {Emma Pierson and Divya Shanmugam and Rajiv Movva and Jon Kleinberg and Monica Agrawal and Mark Dredze and Kadija Ferryman and Judy Wawira Gichoya and Dan Jurafsky and Pang Wei Koh and Karen Levy and Sendhil Mullainathan and Ziad Obermeyer and Harini Suresh and Keyon Vafa},
journal= {arXiv preprint arXiv:2312.14804},
year = {2025}
}