概率模型学习中基于知识的远距离正则化
机器学习
2018-07-02 v1 机器学习
摘要
基于数据知识发掘恰当的归纳偏置对于在统计机器学习中取得良好性能至关重要。然而在实践中，感兴趣的领域知识往往仅提供关于数据属性之间远距离关系的信息，这阻碍了此类领域知识在主流正则化方法中的直接利用。本文提出基于知识的远距离正则化框架，其中利用知识图谱中编码的远距离信息对概率模型估计进行正则化。具体而言，我们提出对由知识图谱嵌入所指定的模型参数施加先验分布。作为该框架的一个实例，我们给出了带基于知识的远距离正则化的因子分析模型。我们展示了关于提升该模型泛化能力的初步实验结果。
引用
@article{arxiv.1806.11332,
title = {Knowledge-Based Distant Regularization in Learning Probabilistic Models},
author = {Naoya Takeishi and Kosuke Akimoto},
journal= {arXiv preprint arXiv:1806.11332},
year = {2018}
}
备注
7 pages, 2 figures, presented in the Eighth International Workshop on Statistical Relational AI