热力学信息神经网络的单生成器与双生成器形式化比较

归纳偏置的发展已被证明是提高神经网络准确性和鲁棒性的非常有效的方法，特别是当它们被用于预测物理现象时。这些偏置显著提高了预测的确定性，减少了误差，并允许使用小得多的数据集。文献中有多种方法来开发这些偏置。在处理物理现象时，最有效的方法之一是将公认有效的物理原理引入网络架构。在不知道所研究现象背后的物理原理时，问题变得更加复杂。此时，一个非常有趣的可能性是求助于热力学原理，这些原理普遍有效，无论对所研究现象寻求何种抽象级别的描述。为了确保符合热力学原理，存在在许多科学分支中有着悠久传统的形式化方法。例如，在流变学领域，使用两种主要类型的正式体系来确保符合这些原理：单生成器和双生成器形式化。在本文中，我们使用具有已知解的经典问题和合成数据研究了各自的优缺点。