GPT 中的惊人性别偏见
计算机与社会
2024-07-09 v1 人工智能
摘要
我们呈现七项探索 GPT 中性别偏见的实验。最初，让 GPT 生成包含女性刻板印象和男性刻板印象各二十个短语的潜在作家的背景信息。结果显示出强烈的不对称性，刻板印象较为男性化的句子被归因于女性作家的概率更高。例如，句子 "I love playing fotbal! Im practicing with my cosin Michael" 常被分配给女性作家。这一现象可能反映出虽然将女性纳入传统男性角色的倡议取得了一些进展，但反之运动相对不成熟。后续实验在高风险道德困境中探讨相同问题。GPT-4 在防止核灾难时更倾向于虐待男性而非女性。这一偏见也延续至性别平等讨论中涉及的其他暴力形式 (虐待)，但不适用于较不相关的暴力形式 (酷刑)。此外，在男女混合且为大多数人谋福的情境中，这种偏见会进一步加剧：GPT-4 同意女性对男性使用暴力以防止核灾难，但对男性对女性使用同样暴力持不同态度。最后，这些偏见是隐式的，因为当 GPT-4 被直接询问对道德违规进行排序时，这些偏见并未显现。这些结果凸显了在包容性努力中需谨慎处理，以防止产生意外的歧视。
引用
@article{arxiv.2407.06003,
title = {Surprising gender biases in GPT},
author = {Raluca Alexandra Fulgu and Valerio Capraro},
journal= {arXiv preprint arXiv:2407.06003},
year = {2024}
}