是什么使学习自然界中的概率分布成为可能？

生物体和算法从先前的观测中学习概率分布，无论是在进化时间尺度上还是实时进行。在缺乏规律性的情况下，从数据估计底层分布将需要多次观测每一种可能的结果。此处我们表明，两个条件使我们能够避开这一不可行的需求。首先，系统两半之间的互信息应持续为亚广延的。其次，这一共享信息应是可压缩的，从而可用与信息量而非熵成正比的比特数来表示。在这些条件下，分布可用随系统尺寸线性增长的参数数量来描述。这些条件分别自然图像和统计物理模型中得到了证实。