AI 伦理困境决策中的偏见：ChatGPT 与 Claude 的比较研究

大型语言模型 (LLM) 的近期进展使其能够在 various 任务中提供类人响应，这引发了对其伦理决策能力及潜在偏见的问题。本研究系统性地评估了九个流行 LLM（包括开源和闭源模型）在涉及受保护属性的伦理困境情境下的反应。在 50,400 次试验中涵盖单属性和交叉属性组合，四种困境情境（保护性 vs. 有害），我们评估模型的伦理偏好、敏感性、稳定性和聚类模式。结果显示，所有模型在受保护属性上都存在显著偏见，模型类型和困境情境会导致偏好不同。值得注意的是，开源 LLM 在有害情境中对边缘群体表现出更强的偏好和更大的敏感性，而闭源模型在保护性情境中更为挑剔，倾向于偏好主流群体。我们还发现，伦理行为在不同困境类型中呈现差异：LLM 在保护性情境中保持一致的模式，但在有害情境中表现出更为多样且更具认知挑战的决策。此外，模型在交叉属性情境下表现出更显著的伦理倾向，优于单属性设置，这表明复杂的输入揭示了更深层的偏见。这些发现突显了对 LLM 伦理行为进行多维度、情境感知评估的必要性，并提供了系统的评估方法和理解 LLM 决策公平性的途径。