自然语言处理研究中的物种主义
计算与语言
2024-10-21 v1 人工智能
摘要
自然语言处理（NLP）关于人工智能安全和社会偏见的研究聚焦于对人类的安全以及对人类少数群体的社会偏见。然而，一些人工智能伦理学家指出，AI 研究中对非人类动物的道德重要性被忽视了。因此，本研究旨在调查是否存在物种主义，即对非人类动物的歧视。首先，我们解释了非人类动物在 NLP 研究中的相关性。随后，我们调查了现有研究中关于物种主义的发现，涉及 NLP 研究人员、数据和模型，并进一步在本研究中深入探讨此问题。本研究的发现表明，物种主义分别存在于研究人员、数据和模型中。具体而言，我们的调查和实验显示：(a) 在 NLP 研究人员中，即便是研究人工智能社会偏见的研究人员，也不认识到物种主义或物种主义偏见；(b) 在 NLP 数据中，物种主义偏见内在于用于评估 NLP 模型的数据集中的数据注释；(c) OpenAI 的 GPT 系列模型 exhibits 物种主义偏见。最后，我们讨论如何减少 NLP 研究中的物种主义。
引用
@article{arxiv.2410.14194,
title = {Speciesism in Natural Language Processing Research},
author = {Masashi Takeshita and Rafal Rzepka},
journal= {arXiv preprint arXiv:2410.14194},
year = {2024}
}
备注
This article is a preprint and has not been peer-reviewed. The postprint has been accepted for publication in AI and Ethics. Please cite the final version of the article once it is published