AI语言模型既可能帮助也可能损害海洋政策制定的公平性：以BBNJ问答机器人为例
计算机与社会
2025-06-18 v1
摘要
像ChatGPT这样的大型语言模型（LLM）将重塑政策制定过程的某些方面。政策从业者已经在使用ChatGPT协助完成各种任务：从起草声明、提交材料和演示文稿，到进行背景研究。我们谨慎地希望，LLM可以通过协助某些繁琐的工作，在政策谈判中促进决策者之间略微更平衡的立足点，特别是惠及那些因能力受限而在谈判中处于劣势的发展中国家。然而，对于环境和海洋政策用途，风险尤其令人担忧，因为气候变化等危机具有紧迫性、高度不确定性和跨界影响。为了探索LLM在海洋政策制定中的现实潜力、局限性和公平性风险，我们以最近通过的《国家管辖范围以外区域海洋生物多样性协定》（BBNJ）的AI聊天机器人为案例研究，并对其关键政策问题的回答进行了评析。我们的案例研究展示了LLM在海洋政策制定中的危险性，因为它们可能偏向生成主要反映西方经济权力中心观点的文本，而忽视发展中国家的观点。我们描述了这些偏见进入系统的几种方式，包括：（1）基础语言模型中的偏见；（2）聊天机器人与联合国谈判文件连接产生的偏见；（3）应用设计产生的偏见。我们敦促在海洋政策过程中谨慎使用生成式AI，并呼吁对其公平性和公正性影响进行更多研究。我们的工作还强调了发展中国家的政策制定者需要发展技术能力，以便按照自己的方式与AI互动。
引用
@article{arxiv.2403.01755,
title = {AI Language Models Could Both Help and Harm Equity in Marine Policymaking: The Case Study of the BBNJ Question-Answering Bot},
author = {Matt Ziegler and Sarah Lothian and Brian O'Neill and Richard Anderson and Yoshitaka Ota},
journal= {arXiv preprint arXiv:2403.01755},
year = {2025}
}