迈向公平且可解释的 AI：一种以人为中心的人工智能方法

机器学习（ML）的兴起伴随着若干引人注目的案例，这些案例强调了 ML 系统对公平性、问责性、可解释性和信任的需求。现有文献主要聚焦于完全自动化的 ML 方法，试图优化某些性能指标。然而，公平性、信任、可解释性等以人为中心的度量本质上具有主观性、依赖于上下文，且可能与常规性能指标不相关。为应对这些挑战，我们探索了一种以人为中心的人工智能方法，通过提供更高的透明度和人为控制来赋能人们。在本学位论文中，我们呈现了 5 个研究项目，旨在增强分类系统和词嵌入中的可解释性与公平性。第一个项目探讨了将局部模型解释作为机器学习教师（众包工作者）界面的效用与弊端。我们的研究发现，添加解释有助于对所得 ML 模型进行信任校准，并支持丰富形式的教学反馈。第二个项目提出 D-BIAS，一种基于因果关系的人在回路可视化工具，用于识别并缓解表格数据集中的社会偏见。除公平性外，我们发现该工具还增强了信任与问责性。第三个项目提出 WordBias，一种可视化交互工具，帮助审计预训练静态词嵌入中对群体（如女性）或子群体（如黑人穆斯林女性）的偏见。第四个项目提出 DramatVis Personae，一种可视化分析工具，帮助识别创意写作中的社会偏见。最后，最后一个项目提出一项实证研究，旨在理解 ML 流水线不同阶段的多种公平性增强干预对公平性、效用及不同人群群体的累积影响。我们以讨论若干未来方向作结。