价值、伦理、道德？论道德概念在 NLP 研究中的使用
计算与语言
2023-10-24 v1 计算机与社会
摘要
随着语言技术日益影响个人生活，许多近期工作已探讨 NLP 的伦理层面。除其他主题外，研究者聚焦于道德概念，例如考察语言模型作出何种道德判断。然而，对于这些工作所依托的术语与理论及其影响，几乎未有讨论。这一缺失极具问题，因其掩盖了工作背后的潜在假设，并阻碍了关于 NLP 中道德问题的深入且有针对性的科学辩论。本工作中，我们通过对（a）提供源自哲学的一些重要伦理概念概览，以及（b）系统调研关于道德 NLP 的现有文献在其哲学基础、术语与数据基础方面的状况，来弥补该研究空白。例如，我们分析某方法基于何种伦理理论、该决策如何论证及其蕴含的影响。我们调研92篇论文的发现表明，例如，多数论文既未提供其所用术语的清晰定义，也未遵循哲学中的定义。最后，（c）我们给出面向该领域未来研究的三项建议。我们希望本工作能促成语言技术中更为知情、审慎且健全的道德讨论。
引用
@article{arxiv.2310.13915,
title = {Values, Ethics, Morals? On the Use of Moral Concepts in NLP Research},
author = {Karina Vida and Judith Simon and Anne Lauscher},
journal= {arXiv preprint arXiv:2310.13915},
year = {2023}
}
备注
to be published in EMNLP 2023 Findings