社会学习：迈向基于大语言模型的协作学习
机器学习
2024-02-09 v2 计算与语言
摘要
我们在大语言模型（LLMs）的背景下引入了“社会学习”框架，模型借此使用自然语言以注重隐私的方式相互分享知识。我们提出并评估了两种在 LLMs 之间进行知识转移的方法。在第一种场景中，我们允许模型生成旨在教授任务的抽象提示。在第二种方法中，模型通过生成合成示例来转移知识。我们在多样化数据集上评估了这些方法，并将记忆化作为隐私损失的代理进行量化。这些受社会学习启发的技术取得了可喜的成果，且对原始数据的记忆化程度较低。特别是，我们表明使用这些方法的性能与使用原始标签和提示的结果相当。我们的工作证明了社会学习对 LLMs 的可行性，建立了基线方法，并突出了未来工作的几个未探索领域。
引用
@article{arxiv.2312.11441,
title = {Social Learning: Towards Collaborative Learning with Large Language Models},
author = {Amirkeivan Mohtashami and Florian Hartmann and Sian Gooding and Lukas Zilka and Matt Sharifi and Blaise Aguera y Arcas},
journal= {arXiv preprint arXiv:2312.11441},
year = {2024}
}