形式与功能:将机器遗忘建模为状态错位问题
机器学习
2026-05-19 v1 最优化与控制
摘要
我们将机器遗忘用于在线 L-BFGS 建模为一种反事实状态对齐问题。给定实际事件流和删除编辑后的反事实事件流,遗忘的目标是优化器状态——即若删除样本从未被处理将产生的状态。我们引入了状态感知指标,分别测量参数误差、记忆算子误差、综合状态误差和更新方向误差。记忆度量比较由 o-L-BFGS 记忆引起的逆 Hessian 作用,而不是将曲率对视为有限影响。 在凸性假设下,我们推导了反事实状态偏离的递归上界。随后,我们评估了删除干预的状态感知基准测试,包括仅记忆修正和仅参数修正,针对反事实信使模型。这些结果表明,针对在线 L-BFGS 的遗忘不仅仅是一个参数校正问题:它需要与可实现的反事实优化器状态对齐。
引用
@article{arxiv.2605.17590,
title = {Form and Function: Machine Unlearning as a Problem of Misaligned States},
author = {Kennon Stewart},
journal= {arXiv preprint arXiv:2605.17590},
year = {2026}
}