预期意外：开发用于应对未预测事件与条件的自治系统设计原则

在开发自治系统时，工程师与其他利益相关者付出巨大努力使系统为所有可预见事件与条件做好准备。然而，这些系统仍必然会遇到设计阶段未考虑的事件与条件。出于安全、成本或伦理等原因，通常高度期望这些新情况在首次遭遇时即被正确处理。本文中，我们首先论证了我们的立场：由于现实世界中的新发明、全球范围系统部署与使用的多样性，以及多个看似不太可能、在设计时可能被忽略的事件不仅会发生而且会同时发生这一不可忽略的概率等原因，未预测事件与条件将始终存在。接着我们主张，尽管存在这种不可预测性，处理这些事件与条件确实是可能的。因此，我们提出并举例说明了可提前应用的设计原则，使系统在未来能够处理未预测情形。最后我们讨论了本工作及对意外现象的更广泛理论研究如何有助于建立开发可信赖下一代自治系统的工程原则基础。