DataInf：高效估计 LoRA 微调大语言模型与扩散模型中的数据影响
机器学习
2024-03-14 v3 机器学习
摘要
量化训练数据点的影响对于理解机器学习模型的输出以及提升 AI 流程的透明度至关重要。影响函数是一种原理清晰且流行的数据归因方法，但其计算成本常使其难以使用。在大型语言模型和文本到图像模型的场景下，该问题更为突出。在本工作中，我们提出 DataInf，一种适用于大规模生成式 AI 模型的高效影响近似方法。利用易于计算的闭式表达式，DataInf 在计算与内存效率上优于现有影响计算算法。我们的理论分析表明，DataInf 特别适用于 LoRA 等参数高效微调技术。通过系统的实证评估，我们表明 DataInf 能准确近似影响分数，且比现有方法快数个数量级。在 RoBERTa-large、Llama-2-13B-chat 和 stable-diffusion-v1.5 模型的应用中，DataInf 比其他近似影响分数更有效地识别出最具影响力的微调样本。此外，它还有助于识别哪些数据点被错误标注。
引用
@article{arxiv.2310.00902,
title = {DataInf: Efficiently Estimating Data Influence in LoRA-tuned LLMs and Diffusion Models},
author = {Yongchan Kwon and Eric Wu and Kevin Wu and James Zou},
journal= {arXiv preprint arXiv:2310.00902},
year = {2024}
}
备注
ICLR 2024