REQUAL-LM: 通过聚合实现大语言模型的可靠性与公平性
计算与语言
2024-04-19 v1 人工智能
计算机与社会
机器学习
摘要
大语言模型(LLMs)在多个领域的广泛应用凸显了其应用中责任感的重要性,这超越了自然语言处理范畴。特别是LLMs的随机性质量,以及数据中固有的偏见和历史刻板印�,引发了关于可靠性和公平性的严峻问题。在LLMs用于具有社会影响的应用前,必须解决这些挑战。为填补这一空白,我们引入REQUAL-LM,一种通过聚合寻找可靠且公平LLM输出的新方法。具体而言,我们开发一种基于重复抽样的蒙特卡罗方法,以寻找接近潜在输出分布均值的可靠输出。我们正式定义了可靠性和偏见等术语,并设计了以公平性为导向的聚合以最小化有害偏见,同时寻找高度可靠的输出。REQUAL-LM无需专业硬件,计算负担不大,且将LLMs作为黑盒子使用。这种设计选择使得其能够 seamless地扩展,并伴随LLM技术的快速发展。该系统无需重新训练LLMs,即可即插即用。我们的全面实验使用各种任务和数据集表明,REQUAL-LM有效缓解了偏见,并选择更具公平性的响应,尤其是能妥善代表少数群体的输出。
引用
@article{arxiv.2404.11782,
title = {REQUAL-LM: Reliability and Equity through Aggregation in Large Language Models},
author = {Sana Ebrahimi and Nima Shahbazi and Abolfazl Asudeh},
journal= {arXiv preprint arXiv:2404.11782},
year = {2024}
}