利用 Shapley 交互理解模型如何使用结构

语言是一个复杂结构的系统，自然语言处理（NLP）可解释性的一个关键目标是提供方法论见解，以理解语言模型如何在内部表示这种结构。在本文中，我们使用 Shapley Taylor 交互指数（STII）来检查语言和语音模型如何在内部关联和构建其输入。成对 Shapley 交互衡量了两个输入在多大程度上协同工作以影响模型输出，超越了线性叠加其独立影响的情形，从而提供了模型如何编码输入间结构交互的视角。我们将模型中的交互模式与三种底层语言结构联系起来：句法结构、非组合语义和语音协同发音。我们发现，自回归文本模型编码的交互与输入的句法邻近性相关，并且自回归模型和掩码模型都在具有非组合语义的习语短语中编码非线性交互。我们的语音结果表明，对于相邻辅音可能影响元音或近音的输入对，其输入更加纠缠，这表明模型编码了提取离散音素表示所需的语音交互。