面向开放世界的 AI:学习原则

在过去几十年中,AI 在"特定能力"(即所谓封闭世界)上取得了众多成功,例如人工环境或特定的现实任务。这种定义明确的狭义能力带来了两个显著优势:清晰的成功标准以及收集大量样本的机会。这些标准不仅揭示了机器是否达成了目标,还揭示了机器在哪些方面未能达成目标。因此,人类设计者可以逐一修复这些问题,直至机器被认为足以胜任该任务。此外,所收集的大量样本降低了这一修缮过程的难度(依据中心极限定理)。封闭世界中的成功能否推广到广阔的开放世界——即要求机器以更少的样本和更少的人类先验知识,完成人类可能从事的任何任务?答案是否定的。因为在特定任务上的能力对处理其他任务提供的帮助有限,适用于特定任务的有效标准在处理更广泛的未见任务时变得无能为力。此外,由于未见任务中样本的匮乏,中心极限定理也不再站在我们这边。最终,人类设计者失去了用以"调试"面向开放世界的 AI 系统的示波器。实现面向开放世界的 AI 需要独特的学习原则与创新性的技术,这些与构建面向封闭世界的 AI 所采用的原则与技术有所不同。本文探讨了构建面向开放世界的 AI 所需的学习原则,包括丰富特征(类比为一个大型工具箱)、解耦表示(一个组织有序的工具箱)以及推理时学习(一双熟练使用工具的手)。在这些学习原则的驱动下,本文进一步提出了运用这些学习原则的技术,并开展了大量大规模实验以验证这些学习原则。