CaMU: 解耦深度模型遗忘中的因果效应

机器遗忘要求移除遗忘数据的信息，同时保留剩余数据的必要信息。尽管该领域近期取得了进展，但现有方法主要关注移除遗忘数据的效果，而未考虑这可能对剩余数据信息产生的负面影响，导致数据移除后性能显著下降。虽然有些方法试图在移除后修复剩余数据的性能，但被遗忘的信息也可能在修复后恢复。这个问题源于遗忘数据和剩余数据之间错综复杂的交织。由于未能充分区分这两类数据对模型的影响，现有算法要么面临遗忘数据移除不彻底的风险，要么面临剩余数据中有价值信息不必要丢失的风险。为解决这一缺陷，本研究对遗忘过程进行了因果分析，并引入了一个名为因果机器遗忘（CaMU）的新颖框架。该框架通过对剩余数据的信息进行干预，以解耦遗忘数据与剩余数据之间的因果效应。然后，CaMU 消除与遗忘数据相关的因果影响，同时保留剩余数据的因果相关性。在各种数据集和模型上的综合实证结果表明，CaMU 增强了剩余数据的性能，并有效地最小化了遗忘数据的影响。值得注意的是，这项工作是首次从因果性的新视角解释深度模型遗忘任务，并提供了基于因果分析的解决方案，为深度模型遗忘的未来研究开辟了新的可能性。