带刺的玫瑰：自然语言处理中的双重用途困境考察
计算与语言
2023-10-31 v3 人工智能
摘要
双重用途，即技术和科学制品被有意的、有害的再利用，是在自然语言处理（NLP）语境中尚待明确定义的问题。然而，随着 NLP 技术持续进步并在社会中日益普及，其内在机制也变得愈发不透明。因此，理解双重用途隐患及潜在的限制手段，对于最小化研发可能造成的危害至关重要。在本文中，我们对 NLP 研究人员与从业者开展调查，以了解该问题的深度及其视角，并评估现有可用支持。基于调查结果，我们给出了一个契合 NLP 社区需求的双重用途定义。调查揭示多数研究者担忧其研究的潜在双重用途，但仅采取有限行动。鉴于调查结果，我们讨论了 NLP 中缓解双重用途的现状与潜在手段，并提出了可整合进现有会议伦理框架（如 ACL 伦理检查表）的检查表。
引用
@article{arxiv.2304.08315,
title = {Thorny Roses: Investigating the Dual Use Dilemma in Natural Language Processing},
author = {Lucie-Aimée Kaffee and Arnav Arora and Zeerak Talat and Isabelle Augenstein},
journal= {arXiv preprint arXiv:2304.08315},
year = {2023}
}