通过来自大语言模型的查询学习 Horn 包络
机器学习
2023-09-14 v2 计算机科学中的逻辑
摘要
我们研究了一种基于 Angluin 精确学习模型从训练好的神经网络中提取知识的方法,该模型使用对预言机的成员查询与等价查询。在此方法中,预言机是一个训练好的神经网络。我们考虑 Angluin 用于学习 Horn 理论的经典算法,并研究使其适用于从神经网络学习所需的改动。特别地,我们必须考虑到训练好的神经网络可能并不表现为 Horn 预言机,即其底层目标理论可能不是 Horn 的。我们提出了一种新算法,旨在提取目标理论的“最紧 Horn 近似”,并保证在指数时间内(最坏情况)终止,若目标具有多项式多个非 Horn 样例则在多项式时间内终止。为展示该方法的适用性,我们在预训练语言模型上进行实验,提取出暴露基于职业的性别偏见的规则。
引用
@article{arxiv.2305.12143,
title = {Learning Horn Envelopes via Queries from Large Language Models},
author = {Sophie Blum and Raoul Koudijs and Ana Ozaki and Samia Touileb},
journal= {arXiv preprint arXiv:2305.12143},
year = {2023}
}
备注
35 pages, 2 figures; manuscript accepted for publication in the International Journal of Approximate Reasoning (IJAR)