iShumei-Chinchunmei at SemEval-2025 Task 4：使用有效遗忘损失的平衡遗忘与保留多任务框架
计算与语言
2025-08-19 v1
摘要
随着大语言模型 (LLM) 获得广泛采用，如何使 LLM 遗忘其在预训练期间记忆的不合规数据这一挑战日益受到关注。机器遗忘致力于在有限计算资源下从 LLM 中高效擦除敏感信息。为推进该领域研究，SemEval 2025 Task 4：“从大语言模型中遗忘敏感内容”引入了三个遗忘数据集，并通过评估遗忘效果与标准能力的保持来建立基准。在本工作中，我们提出了一种更可控的遗忘损失——有效遗忘损失 (Effective Unlearning Loss)，并探索了其与各种技术的集成，以实现更高效且受控的遗忘。我们的系统最终在竞赛排行榜上排名第五。
关键词
引用
@article{arxiv.2507.16263,
title = {iShumei-Chinchunmei at SemEval-2025 Task 4: A balanced forgetting and retention multi-task framework using effective unlearning loss},
author = {Yujian Sun and Tian Li},
journal= {arXiv preprint arXiv:2507.16263},
year = {2025}
}