通向谦逊 AI 的熵最优之路

AI 的进步导致了非常成功但并非谦逊的模型和工具，尤其是 (i) 它们所需的巨大且不断膨胀的成本和资源，以及 (ii) 这些工具对所提供答案的过度自信。为了此，本文引入了一个新的数学框架，用于基于精确的总概率律和精确的凸多面体表示，对布尔oltzmann 机器进行非平衡熵最优改造。我们展示，这结果为高度性能的、无需梯度下降的学习框架提供了数学上被证明的存在性和唯一性准则，以及可低成本计算的置信度/可靠性度量，用于模型输入和输出。与在广泛的合成和真实世界问题上进行性能、成本和模型描述长度进行比较的 SOTA AI 工具相比，本文提出的方法在性能和体积上都更优，模型描述长度接近底层问题的本质复杂度缩放界限。将该框架应用于历史气候数据可得出一套系统性更高的预测技能，用于预测重要的 La Ni\~na 和 El Ni\~no 气候现象的发生时间，这只需要数年的气候数据进行训练——这只是当代气候预测工具所需的极小比例。