另一种算法偏见：大语言模型强化性别与种族主导话语的话语分析

随着人工智能（AI）的进步，大语言模型（LLM）日益突出并被应用于多种场景。当它们演化为更复杂的版本时，评估其在维持霸权话语的同时是否再现偏见（如歧视和种族化）至关重要。当前的偏见检测方法主要依赖定量的自动化方法，这些方法常常忽略了偏见在自然语言中出现的微妙方式。本研究提出一个定性的、话语分析的框架来补充这些方法。通过对LLM生成的以黑人和白人女性为主角的短篇故事进行人工分析，我们探究了性别和种族偏见。我们认为，像本文提出的这类定性方法对于帮助开发者和用户识别偏见在LLM输出中显现的确切方式至关重要，从而为缓解偏见创造更好的条件。结果显示，黑人女性被描绘成与祖先和抗争紧密相连，而白人女性则出现在自我发现的过程中。这些模式反映了语言模型如何复制固化的话语表征，强化了本质主义和社会固化感。当被提示纠正偏见时，模型提供的表面修订仍保留了有问题的含义，揭示了在促进包容性叙事方面的局限性。我们的结果展示了算法的意识形态运作，并对AI的伦理使用和开发具有重要启示。本研究强调了在AI设计和部署中采用批判性、跨学科方法的必要性，以应对LLM生成的话语如何反映和延续不平等的问题。