中文

面向生成式推荐的 U-CAN:基于效用感知对比衰减的高效遗忘

机器学习 2026-03-02 v1

摘要

生成式推荐 (GenRec) 通常利用大型语言模型 (LLM) 将个性化定义为指令驱动的序列生成任务。然而,基于用户日志的微调会不可避免地将敏感属性编码到模型参数中,引发严重隐私问题。现有机器遗忘 (MU) 技术在多义性困境 (Polysemy Dilemma) 下难以应对:神经元叠加编码敏感数据与通用推理模式,导致传统梯度或剪枝方法下严重损失效用。为解决此问题,本文提出效用感知对比衰减 (U-CAN) 框架, operates on low-rank adapters。U-CAN 通过对比激活值量化风险,聚焦于对遗忘集合高度敏感但被抑制在保留集合上的神经元。为保障性能,本文引入效用感知校准机制,将权重幅度与保留集合激活范数相结合,为对保留性能贡献大的维度赋予更高效用分数。不同于二元剪枝导致网络结构碎片化,U-CAN 采用可微衰减函数开发自适应软衰减,选择性地削弱 LoRA 适配器上高风险参数,从抑制敏感检索路径,保留推理电路的拓扑连通性。在两个公开数据集上测试七项指标,实验结果表明 U-CAN 在隐私遗忘、效用保留与计算效率方面均取得优异成绩。

关键词

引用

@article{arxiv.2602.23400,
  title  = {U-CAN: Utility-Aware Contrastive Attenuation for Efficient Unlearning in Generative Recommendation},
  author = {Zezheng Wu and Rui Wang and Xinghe Cheng and Yang Shao and Qing Yang and Jiapu Wang and Jingwei Zhang},
  journal= {arXiv preprint arXiv:2602.23400},
  year   = {2026}
}