机器学习中的特征网络方法及其应用

机器学习（ML）特征网络是一个基于相似性连接学习任务中ML特征的图。这种网络表示使我们能够将特征向量视为网络上的函数。通过利用傅里叶分析和泛函分析中的函数运算，可以借助施加在特征向量上的图结构轻松生成新颖的特征。此类网络结构先前已在图像处理和计算生物学中被隐式研究。因此，我们将特征网络描述为施加在特征向量上的图结构，并提供其在机器学习中的应用。一项应用涉及卷积神经网络的基于图的推广，包括具有不同深度或复杂度的特征层次化表示的结构化深度学习。这也扩展到能够生成有用的新型多层次特征的学习算法。此外，我们讨论了利用特征网络来设计新特征，这可以增强模型的表达能力。我们给出了一个深度树结构特征网络的具体示例，其中通过特征聚类和前馈学习形成层次连接。这带来了低学习复杂度和计算效率。与仅限于相邻特征的调制（阈值化）线性组合的“标准”神经特征不同，特征网络提供了特征间更通用的前馈依赖关系。例如，可以利用径向基函数或基于图结构的特征间依赖关系。