IL-Net：利用专家知识指导分叉神经网络的设计
机器学习
2018-09-17 v1 人工智能
机器学习
摘要
深度神经网络（DNN）擅长提取模式。通过对大型数据集的表示学习和自动化特征工程，此类模型在计算机视觉和自然语言应用中极为成功。然而，从原则性或合理性方法出发设计最优网络架构一直不太成功，最成功的途径是利用额外的机器学习算法来调谐网络超参数。但在许多技术领域，存在关于研究对象的既定领域知识及理解。在本工作中，我们开发了一种新颖的分叉（furcated）神经网络架构，该架构将领域知识用作网络的高层设计原则。我们通过开发 IL-Net（一种用于预测离子液体性质的分叉网络）来展示概念验证，离子液体是一类复杂的多化学物质实体。与现有最先进（SOTA）方法相比，我们表明分叉网络可在不使用额外标注数据的情况下将模型准确率提高约 20-35%。最后，我们提炼出两条可适配其他领域的分叉网络关键设计原则。
引用
@article{arxiv.1809.05127,
title = {IL-Net: Using Expert Knowledge to Guide the Design of Furcated Neural Networks},
author = {Khushmeen Sakloth and Wesley Beckner and Jim Pfaendtner and Garrett B. Goh},
journal= {arXiv preprint arXiv:1809.05127},
year = {2018}
}
备注
Submitted to peer-reviewed ML conference