解码算法对开放式语言生成公平性的影响分析
计算与语言
2022-10-11 v1 人工智能
机器学习
机器学习
摘要
若干先前的研究表明，语言模型（LMs）可能生成包含有害社会偏见与刻板印象的文本。尽管解码算法在决定 LM 生成文本的属性方面起着核心作用，但其对生成内容公平性的影响尚未被研究。我们系统性地分析了解码算法对 LM 公平性的影响，并分析了公平性、多样性与质量之间的权衡。我们在开放式语言生成中使用 top-、top- 和 temperature 解码算法进行的实验表明，不同人口统计群体间的公平性随解码算法超参数的变化而显著改变。值得注意的是，输出更多样化文本的算法也输出了更多具有负面情感与 regard 的文本。我们给出了若干发现，并就公平性评估中解码细节的标准化报告，以及兼顾质量与多样性优化解码算法以实现公平性提供了建议。
引用
@article{arxiv.2210.03826,
title = {An Analysis of the Effects of Decoding Algorithms on Fairness in Open-Ended Language Generation},
author = {Jwala Dhamala and Varun Kumar and Rahul Gupta and Kai-Wei Chang and Aram Galstyan},
journal= {arXiv preprint arXiv:2210.03826},
year = {2022}
}
备注
Accepted at IEEE SLT 2022