知识驱动的主动学习
机器学习
2023-09-28 v4 人工智能
摘要
在监督数据量有限的场景中，深度学习（DL）模型的部署仍然受到阻碍。为了解决这个问题，主动学习策略旨在最小化训练 DL 模型所需的标注数据量。大多数主动策略基于不确定样本选择，甚至通常局限于靠近决策边界的样本。这些技术在理论上是合理的，但基于内容理解所选样本并不直观，这进一步导致非专家将 DL 视为黑盒。我们首次提出考虑通用领域知识，并使非专家用户能够用更少的样本训练模型。在我们的知识驱动主动学习（KAL）框架中，基于规则的知识被转换为逻辑约束，并通过检查其违例情况作为样本选择的自然指导。我们证明，即使是数据与输出类别之间的简单关系，也提供了一种发现模型需要监督的预测的方法。我们通过实验证明，KAL (i) 优于许多主动学习策略，特别是在领域知识丰富的场景中；(ii) 能够发现远离初始训练数据的数据分布；(iii) 确保领域专家所提供的知识被模型获取；(iv) 与基于不确定性的策略不同，它适用于回归和目标识别任务；(v) 其计算需求较低。
引用
@article{arxiv.2110.08265,
title = {Knowledge-driven Active Learning},
author = {Gabriele Ciravegna and Frédéric Precioso and Alessandro Betti and Kevin Mottin and Marco Gori},
journal= {arXiv preprint arXiv:2110.08265},
year = {2023}
}
备注
Accepted at ECML2023 for presentation! Check also the github repo: https://github.com/gabrieleciravegna/Knowledge-driven-Active-Learning