通过均值投影或LEACE改进遗忘探测中的因果干预
计算与语言
2025-06-16 v1 人工智能
摘要
遗忘探测是一种用于检验特定语言信息对模型行为影响的技术。这涉及识别并移除相关信息，然后评估模型在主任务上的性能是否发生变化。如果被移除的信息是相关的，模型性能应当下降。该方法的难点在于仅移除目标信息而保持其他信息不变。已知广泛使用的移除技术迭代零空间投影（INLP）在消除目标信息时会引入对表示的随机修改。我们证明，均值投影（MP）和LEACE两种提出的替代方法能够以更具针对性的方式移除信息，从而增强通过遗忘探测获取行为解释的可能性。
引用
@article{arxiv.2506.11673,
title = {Improving Causal Interventions in Amnesic Probing with Mean Projection or LEACE},
author = {Alicja Dobrzeniecka and Antske Fokkens and Pia Sommerauer},
journal= {arXiv preprint arXiv:2506.11673},
year = {2025}
}