CleaR：面向鲁棒且泛化的参数高效微调以应对噪声标签学习
机器学习
2024-11-05 v1 人工智能
摘要
参数高效微调（PEFT）使得在现实环境中高效优化庞大语言模型成为可能。然而，此类环境中的数据集往往包含损害性能的噪声标签，PEFT 方法不可避免地面临噪声标签。尽管存在这一挑战，PEFT 对噪声环境的适应性仍未被充分探索。为填补这一空白，我们在噪声标签下研究了各类 PEFT 方法。有趣的是，我们发现 PEFT 因其固有的有限容量，难以记忆噪声标签，从而表现出鲁棒性。然而，我们也发现这种有限容量同时使 PEFT 更易受噪声标签干扰，阻碍了对干净样本的学习。为解决此问题，我们提出清洁路由，一种基于路由的新型 PEFT 方法，能自适应地激活 PEFT 模块。在 CleaR 中，PEFT 模块优先接触干净数据而绕过噪声数据，从而最小化噪声影响。为验证 CleaR 的有效性，我们在多样的噪声标签配置上进行了大量实验。结果令人信服地表明，CleaR 在噪声环境中显著提升了性能。
引用
@article{arxiv.2411.00873,
title = {CleaR: Towards Robust and Generalized Parameter-Efficient Fine-Tuning for Noisy Label Learning},
author = {Yeachan Kim and Junho Kim and SangKeun Lee},
journal= {arXiv preprint arXiv:2411.00873},
year = {2024}
}
备注
Published at ACL 2024 Main Conference