ChatGPT 的公平性

理解并解决 LLM 中的不公平性对于负责任的人工智能部署至关重要。然而，关于 LLM 公平性评估的定量分析和深入研究十分有限，尤其在将 LLM 应用于高风险领域时。本工作旨在通过以 ChatGPT 为案例对 LLM 的有效性与公平性进行系统评估来填补此空白。我们聚焦于评估 ChatGPT 在教育、犯罪学、金融和医疗等高风险领域的表现。为进行透彻评估，我们同时考虑群体公平性与个体公平性指标。我们还观察了 ChatGPT 在一组有偏或 unbiased 提示下的输出差异。本工作增进了对 LLM 公平性表现的深入理解，有助于偏差缓解并推动负责任人工智能系统的发展。