将领域知识引入深度神经网络的若干技术综述
机器学习
2022-01-25 v4 人工智能
神经与进化计算
摘要
我们呈现一项关于在使用神经网络构建模型时纳入现有科学知识方式的综述。领域知识的引入不仅对于构建科学助手具有特殊意义,对于许多涉及利用人机协作理解数据的其他领域也同样如此。在这类许多实例中,若能以足够精确的形式提供该领域的、由人类编码的知识,基于机器的模型构建可显著受益。本文通过以下方面的改动来考察领域知识的引入:深度网络的输入、损失函数以及架构。此分类仅为便于阐述:在实践中我们预期会采用此类改动的某种组合。在每一类别中,我们描述了已被证明能对深度神经网络性能产生显著改变的技术。
引用
@article{arxiv.2107.10295,
title = {A Review of Some Techniques for Inclusion of Domain-Knowledge into Deep Neural Networks},
author = {Tirtharaj Dash and Sharad Chitlangia and Aditya Ahuja and Ashwin Srinivasan},
journal= {arXiv preprint arXiv:2107.10295},
year = {2022}
}
备注
16 pages; Accepted at Nature Scientific Reports. arXiv admin note: substantial text overlap with arXiv:2103.00180