通过背包架构控制检索中的性别偏见
信息检索
2025-11-04 v1 机器学习
摘要
大型语言模型（LLM）中存在的社交偏见已成为人工智能研究中的重要关切。这些偏见常常嵌入训练数据中，会延续有害刻板印象并扭曲决策过程。当 LLM 集成到排序系统中时，可能传播这些偏见，导致搜索引擎和推荐系统等关键应用中的不公平结果。背包语言模型与传统基于变换器的模型不同，后者将文本序列视为单一结构，而该模型生成的输出是非上下文相关、已学习词语方面的加权组合。基于此架构，我们提出了一个用于消除排序任务偏见的框架。我们的实验结果表明，该框架在保持性能的同时，有效缓解了文本检索和排序中的性别偏见。
引用
@article{arxiv.2511.00875,
title = {Controlling Gender Bias in Retrieval via a Backpack Architecture},
author = {Amirabbas Afzali and Amirreza Velae and Iman Ahmadi and Mohammad Aliannejadi},
journal= {arXiv preprint arXiv:2511.00875},
year = {2025}
}