双线性卷积分解用于因果RL解释
机器学习
2024-12-03 v1 人工智能
摘要
解释强化学习（RL）模型的 efforts 常依赖高级技术，如归因或探测，这些技术仅提供相关性见解和粗糙的因果控制。本工作提出用双线性变量取代卷积神经网络（ConvNet）中的非线性，以产生一类可解决这些局限方法的模型。我们展示双线性模型变体在无模型强化学习setting中性能相当，并对ProcGen环境进行逐层比较。双线性层的解析结构使其能够进行权重分解。先前的工作表明双线性性通过特征值分解实现功能重要性量化，以识别可解释的低秩结构。我们展示如何通过对感兴趣的向量应用奇异值分解来适应卷积层，以分离通道和空间维度。最后，我们提出一种用于因果验证概念基准探测的方法，并通过研究迷宫解答智能体跟踪奶酪对象能力来说明其实用性。
引用
@article{arxiv.2412.00944,
title = {Bilinear Convolution Decomposition for Causal RL Interpretability},
author = {Narmeen Oozeer and Sinem Erisken and Alice Rigg},
journal= {arXiv preprint arXiv:2412.00944},
year = {2024}
}
备注
8 pages, 10 figures