通过最小特征集选择实现目标课程：布尔网络案例研究

我们研究了在监督多标签分类（MLC）问题上训练布尔模型时引入目标课程的效果。特别地，我们考虑了在缺乏先验知识的情况下如何对目标进行排序，以及在使用元启发式算法训练离散非线性模型时如何强制执行这样的课程。我们展示了，通过使用分层损失函数强制执行适当的课程，可以利用目标之间的层次依赖关系。在几个具有已知目标难度的多输出电路推理问题上，使用这种损失函数训练的前馈布尔网络（FBNs）实现了显著更低的样本外误差，在某些情况下高达$10\%$。这种改进随着损失函数对目标顺序的强调程度增加而增加，并且与从易到难的课程强相关。我们还在三个真实世界模型和两个基因调控网络（GRN）推理问题上展示了相同的改进。我们提出了一种简单的先验方法，用于识别适当的布尔MLC目标顺序并估计目标关系的强度。这些方法使用固有维度作为目标难度的代理，该固有维度通过一个称为最小特征集（minFS）问题的组合优化问题的最优解来估计。我们还证明，在不提供任何目标难度知识的情况下，也可以实现相同的泛化增益。