技术风险存在下的科学回报

科学和技术进步在历史上对人类非常有益，但这并不总是成立的。展望未来，科学可能使不良行为者能够引发比以往更频繁、更致命的基因工程大流行。我开发了一个定量经济模型来评估科学的社会回报，同时考虑了对健康和收入的益处，并预测了由科学赋能的新生物能力所造成的损害。我基于历史趋势以及来自领域专家和超级预测者的大型预测锦标赛的预测（其中包括关于基因工程大流行事件的预测）为该模型设定了参数。结果取决于新科学能力可能导致我们先进文明终结的预测可能性——我所使用的预测锦标赛参与者对此概率存在重大分歧。如果搁置这种遥远的可能性，我发现科学的预期未来社会回报是强烈正向的。否则，加速科学的可取性取决于对长远未来的重视程度，以及倾向于哪一组（截然不同的）灭绝风险预测。我还探讨了这些结论对一系列替代假设的敏感性。