性别刻板印象的局部对比编辑
计算与语言
2025-08-05 v1 计算机与社会
摘要
语言模型(LMs)中编码的刻板偏见对安全语言技术构成威胁，然而我们对偏见如何在LM参数中体现的理解仍不完整。我们引入了局部对比编辑，它能够定位并编辑目标模型中与参考模型相关的一部分权重。我们采用这种方法来识别和修改与LM中性别刻板印象相关的权重子集。通过一系列实验，我们证明局部对比编辑可以精确定位并控制编码性别偏见的一小部分（< 0.5%）权重。我们的工作(i)增进了我们对刻板偏见如何在LM参数空间中体现的理解，并且(ii)为开发以对比方式控制模型属性的参数高效策略开辟了新途径。
引用
@article{arxiv.2410.17739,
title = {Local Contrastive Editing of Gender Stereotypes},
author = {Marlene Lutz and Rochelle Choenni and Markus Strohmaier and Anne Lauscher},
journal= {arXiv preprint arXiv:2410.17739},
year = {2025}
}
备注
Accepted at EMNLP 2024