生成式语言模型与影响行动的成本分析
计算机与社会
2023-08-08 v1 人工智能
摘要
尽管有猜测认为近期大语言模型（LLMs）很可能被恶意用于提升影响行动的质量或规模，但关于LLMs为宣传者提供的经济价值仍存在不确定性。本研究构建了宣传者大规模内容生成的成本模型，并分析了（1）LLMs可为宣传者带来的潜在节省，（2）对API可访问LLMs的监控控制所产生的潜在威慑效应，以及（3）宣传者在开展影响行动时于多个私有和/或开源LLMs之间选择的优化策略。主要结果表明，LLMs只需以较低可靠度（约25%）产出可用输出，即可为宣传者节省成本；内容生成成本的潜在降低可能相当高（对高可靠度模型可达70%）；且当存在替代开源模型时，监控能力对成本施加的影响极为有限。此外，这些结果表明，民族国家——即便是每年开展许多大规模影响行动者——也不太可能从专门训练用于影响操作的定制LLMs中获得经济利益。
引用
@article{arxiv.2308.03740,
title = {A Cost Analysis of Generative Language Models and Influence Operations},
author = {Micah Musser},
journal= {arXiv preprint arXiv:2308.03740},
year = {2023}
}
备注
21 pages, 5 figures; associated GitHub repository available at https://github.com/georgetown-cset/disinfo-costs