FALCON：面向大语言模型的基于对比正交非对齐的细粒度激活操控
计算与语言
2025-10-22 v3 人工智能
摘要
大语言模型已得到广泛应用，但可能无意中编码敏感或有害信息，引发重大安全担忧。机器遗忘应运而生以缓解此问题；然而，现有的训练时遗忘方法依赖于粗粒度的损失组合，在精确分离知识以及平衡移除效果与模型效用方面存在局限。相比之下，我们提出了基于对比正交非对齐的细粒度激活操控（FALCON），这是一种新颖的表示引导的遗忘方法，利用信息论指导进行高效的参数选择，采用对比机制增强表示分离，并将冲突梯度投影到正交子空间以解决遗忘与保留目标之间的冲突。大量实验表明，FALCON 在保持模型效用的同时，实现了卓越的遗忘效果，并对知识恢复尝试表现出强大的抵抗力。
引用
@article{arxiv.2502.01472,
title = {FALCON: Fine-grained Activation Manipulation by Contrastive Orthogonal Unalignment for Large Language Model},
author = {Jinwei Hu and Zhenglin Huang and Xiangyu Yin and Wenjie Ruan and Guangliang Cheng and Yi Dong and Xiaowei Huang},
journal= {arXiv preprint arXiv:2502.01472},
year = {2025}
}
备注
Accepted at NeurIPS 2025 with minor revisions