研究与消除手语理解模型中的偏差
计算与语言
2024-10-08 v1 计算机视觉与模式识别
摘要
确保手语技术的福利在所有社区成员之间公平分配至关重要。因此，有必要解决在设计或使用这些资源时可能产生的偏差和不平等问题。众所争议的手语数据集，如 ASL Citizen 数据集，是提高可访问性和保留语言多样性的优秀资源，但必须谨慎使用以避免强化现有偏差。在本研究中，我们利用 ASL Citizen 数据集中关于参与者人口统计信息和词汇特征的丰富信息，研究和记录可能由在众所争议的手语数据集上训练的模型导致的偏差。此外，我们在模型训练期间应用了各种偏差缓解技术，并发现这些技术在不降低准确率的情况下减少了性能差异。随着本工作的发布，我们公开了关于 ASL Citizen 数据集参与者的人口统计信息，以鼓励未来的偏差缓解工作。
关键词
引用
@article{arxiv.2410.05206,
title = {Studying and Mitigating Biases in Sign Language Understanding Models},
author = {Katherine Atwell and Danielle Bragg and Malihe Alikhani},
journal= {arXiv preprint arXiv:2410.05206},
year = {2024}
}