作为企业游说者的大语言模型
计算与语言
2023-01-31 v7 计算机与社会
摘要
我们展示了一个大语言模型执行企业游说相关活动的概念验证。一个自回归大语言模型（OpenAI 的 text-davinci-003）判定提出的美国国会法案是否与特定上市公司相关，并提供解释和置信度水平。对于模型判定为相关的法案，模型起草一封给法案发起人的信，试图说服该国会议员对拟议立法进行修改。我们使用数百个关于法案与公司相关性的新颖真实标签来基准测试模型性能。它优于预测最常见结果即不相关这一基线。我们还基准测试了此前的 OpenAI GPT-3 模型（text-davinci-002）的性能，该模型在 text-davinci-003 最近发布前是许多学术自然语言任务上的最先进模型。text-davinci-002 的性能劣于简单基线。长远来看，如果 AI 开始以并非人类意图直接延伸的方式影响法律，这就威胁到法律作为信息在使 AI 与人类对齐中可能发挥的关键作用。最初，AI 仅被用于增强人类游说者日常任务的一小部分。然而，企业有动机对政策想法的自动化评估以及与监管机构和国会工作人员的书面沟通使用越来越少的人类监督。所提出的核心问题是在人类驱动与 AI 驱动的政策影响之间划清界限。
引用
@article{arxiv.2301.01181,
title = {Large Language Models as Corporate Lobbyists},
author = {John J. Nay},
journal= {arXiv preprint arXiv:2301.01181},
year = {2023}
}
备注
Our open-source code available here: https://github.com/JohnNay/llm-lobbyist