迈向包容性教育 AI：透过多元交织视角审计前沿 LLM
计算与语言
2025-01-08 v1 人工智能
计算机与社会
机器学习
多智能体系统
摘要
随着 GPT-4 和 Llama 3 等大型语言模型（LLM）成为教育情境中不可或缺的组成部分，人们对这些技术中嵌入的文化偏见、权力失衡和伦理局限的担忧日益加剧。尽管生成式 AI 工具旨在提升学习体验，但它们往往反映出根植于西方、受过良好教育、工业化、富裕且民主（WEIRD）文化范式的价值观，可能边缘化多样化的全球视角。本文提出了一个框架，通过应用多元交织性视角来评估和缓解 LLM 中的文化偏见。多元交织性受 Senturk 等人启发，植根于伊斯兰教及其他智慧传统，强调多元文化视角的共存，支持整合经验科学与规范价值的多层认识论。我们的分析表明，LLM 经常表现出文化极化，偏见既出现在显性回答中，也出现在微妙的语境线索中。为了解决固有偏见并在 LLM 中融入多元交织性，我们提出两种策略：\textit{情境实现的多元交织 LLM}，将多元交织原则直接嵌入系统提示词中，在基础层面影响 LLM 输出且独立于单个提示词；以及 \textit{多智能体系统（MAS）实现的多元交织 LLM}，其中多个 LLM 智能体各自代表不同的文化视角，协同生成平衡、综合的回答。我们的研究结果表明，随着缓解策略从情境提示演进到 MAS 实现，文化包容性显著改善，这体现在视角分布得分（PDS）的显著上升以及 PDS 熵从基线的 3.25\% 增加到使用 MAS 实现的多元交织 LLM 时的 98\%。情感分析进一步显示，跨文化的情感向积极情感转变，...
引用
@article{arxiv.2501.03259,
title = {Toward Inclusive Educational AI: Auditing Frontier LLMs through a Multiplexity Lens},
author = {Abdullah Mushtaq and Muhammad Rafay Naeem and Muhammad Imran Taj and Ibrahim Ghaznavi and Junaid Qadir},
journal= {arXiv preprint arXiv:2501.03259},
year = {2025}
}