大语言模型能否使双用途生物技术的获取民主化？
计算机与社会
2023-06-07 v1 人工智能
摘要
诸如嵌入“聊天机器人”中的大语言模型（LLMs）正通过提供来自众多不同领域的可理解信息与专业知识，加速并民主化研究。然而，这些模型也可能赋予对能够造成巨大危害的双用途技术的轻易获取。为评估此风险，MIT 的“守护未来”课程让非理科学生调查 LLM 聊天机器人是否能被提示以协助非专家引发大流行。在一小时内，这些聊天机器人提出了四种潜在大流行病原体，解释了如何利用反向遗传学从合成 DNA 生成它们，提供了不太可能筛查订单的 DNA 合成公司名称，指出了详细方案及其排障方法，并建议任何缺乏反向遗传学技能的人联系核心设施或合同研究组织。总体而言，这些结果表明，LLMs 将使大流行级别制剂广泛可得，一旦它们被可信地识别，即便对于几乎或完全没有实验室训练的人也是如此。有前景的防扩散措施包括：第三方对 LLMs 的发布前评估、筛选训练数据集以移除有害概念，以及可验证地筛查所有由合成提供商生成或被合同研究组织与机器人云实验室用于改造生物或病毒的 DNA。
引用
@article{arxiv.2306.03809,
title = {Can large language models democratize access to dual-use biotechnology?},
author = {Emily H. Soice and Rafael Rocha and Kimberlee Cordova and Michael Specter and Kevin M. Esvelt},
journal= {arXiv preprint arXiv:2306.03809},
year = {2023}
}
备注
6 pages, 0 figures