探测即你所需要的一切吗？作为嵌入空间探测替代方案的指示任务

识别并控制词向量表示中编码的不同语言信息具有许多用途，尤其在可解释性和偏见消除方面。这通常通过一组称为探针（probe）的简单分类任务来完成，以评估嵌入空间中编码的信息。然而，可训练分类器的引入导致探针结果与该分类器特性之间的纠缠。因此，当代关于探测的工作包含了不涉及辅助模型训练的任务。在本文中，我们引入术语“指示任务”（indicator tasks）来指代用于查询嵌入空间中某些属性是否存在且不可训练的任务，并主张此类任务可能指向与探针相反的方向，而这种矛盾使得判断某一属性是否存在于嵌入空间中的决策变得复杂。我们通过两个测试用例证明我们的主张，一个涉及性别去偏，另一个涉及从嵌入空间中擦除形态信息。我们表明，与探针相比，合适的指示任务的应用能更准确地刻画被捕获和移除的信息。因此我们得出结论：在从嵌入表示中提取信息时，应实施并考虑指示任务。