逐步实现公平：面向任务型对话系统中社会偏见的归因
计算与语言
2023-11-15 v2 人工智能
摘要
近期工作表明，以端到端方式利用预训练大语言模型（LLMs）在任务型对话（TOD）系统上取得了显著改进。然而，TOD 系统各组件的偏置行为以及端到端框架中的错误传播问题，会导致严重偏置的 TOD 响应。现有公平性研究仅关注系统的总偏置。本文提出一种诊断方法，将偏置归因至 TOD 系统的每个组件。借助所提归因方法，我们能更深入理解偏置来源。此外，研究者可在更细粒度上缓解模型偏置行为。我们实验将 TOD 系统偏置归因至三个 demographic 轴：性别、年龄与种族。实验结果表明，TOD 系统的偏置通常来自响应生成模型。
引用
@article{arxiv.2311.06513,
title = {Step by Step to Fairness: Attributing Societal Bias in Task-oriented Dialogue Systems},
author = {Hsuan Su and Rebecca Qian and Chinnadhurai Sankar and Shahin Shayandeh and Shang-Tse Chen and Hung-yi Lee and Daniel M. Bikel},
journal= {arXiv preprint arXiv:2311.06513},
year = {2023}
}