暴露偏差为何重要：语言生成中错误累积的模仿学习视角
计算与语言
2023-01-11 v3 人工智能
机器学习
摘要
当前的语言生成模型存在重复、不连贯和幻觉等问题。一个常被重复的假设是，这种生成模型的脆弱性由训练与生成过程的不匹配所致，亦称为暴露偏差（exposure bias）。本文中，我们通过从模仿学习视角分析暴露偏差来验证该假设。我们表明暴露偏差导致错误累积，分析困惑度（perplexity）为何未能捕捉此累积，并凭经验展示该累积导致糟糕的生成质量。用于复现这些实验的源代码可在 https://github.com/kushalarora/quantifying_exposure_bias 获取。
引用
@article{arxiv.2204.01171,
title = {Why Exposure Bias Matters: An Imitation Learning Perspective of Error Accumulation in Language Generation},
author = {Kushal Arora and Layla El Asri and Hareesh Bahuleyan and Jackie Chi Kit Cheung},
journal= {arXiv preprint arXiv:2204.01171},
year = {2023}
}
备注
Accepted in Findings of ACL 2022. v2: Equation 7 updated, typo fixes