迈向生物设计工具的负责任治理
计算机与社会
2023-12-01 v3 机器学习
摘要
生成式机器学习的最新进展推动了生物设计工具（BDTs，如蛋白质结构与序列预测模型）的快速发展。BDTs 前所未有的预测精度和新型设计能力带来了新的重大双重用途风险。例如，其预测精度可使生物制剂（无论是疫苗还是病原体）更快地被开发，而设计能力可能被用于发现药物或规避 DNA 筛查技术。与其他双重用途 AI 系统类似，BDTs 呈现出一个棘手问题：监管者如何在不扼杀创新的前提下维护公共安全？我们强调，当前主要针对大语言模型定制的监管提案对 BDTs 可能效果较差，因为后者训练所需计算资源更少且常以开源方式开发。我们提出了一系列缓解 BDTs 被滥用风险的措施，涵盖负责任开发、风险评估、透明度、访问管理、网络安全和韧性投资等领域。实施这些措施需要开发者与政府之间的紧密协调。
引用
@article{arxiv.2311.15936,
title = {Towards Responsible Governance of Biological Design Tools},
author = {Richard Moulange and Max Langenkamp and Tessa Alexanian and Samuel Curtis and Morgan Livingston},
journal= {arXiv preprint arXiv:2311.15936},
year = {2023}
}
备注
10 pages + references, 1 figure, accepted at NeurIPS 2023 Workshop on Regulatable ML as oral presentation