下游偏差缓解是万能的
计算与语言
2024-08-29 v2
摘要
基于转换器架构和大型语言模型（LLM）的技术显著推进了自然语言处理（NLP）模型的性能。由于这些 LLM 在网上和其他来源的大型语料库上进行训练，关于可能从数据中转移的有害偏见的担忧日益增加。在许多应用中，这些预训练的 LLM 在特定任务数据集上进行微调，这可能进一步加剧偏见。本文研究了 LLM 在预训练期间吸收的偏见以及在微调后的特定任务行为。我们发现，对预训练 LLM 进行受控干预（在微调之前）对降低分类器中的偏见影响甚微。然而，领域特定数据集中的偏见起到了更大作用，因此在此阶段缓解偏见具有更大的影响。虽然预训练仍然重要，但一旦模型预训练完成，即使对微调数据集中的共现率进行微小的改变，也会对模型的偏见产生显著影响。
引用
@article{arxiv.2408.00612,
title = {Downstream bias mitigation is all you need},
author = {Arkadeep Baksi and Rahul Singh and Tarun Joshi},
journal= {arXiv preprint arXiv:2408.00612},
year = {2024}
}
备注
arXiv admin note: This work has been withdrawn by arXiv administrators due to inappropriate text reuse from external sources