随机在线工具变量回归：对内生性与老虎机反馈的遗憾界分析

内生性，即噪声与协变量的相关性，是真实数据中由于遗漏变量、策略行为、测量误差等原因造成的常见现象。相比之下，现有对具有无界噪声的随机在线线性回归和线性老虎机的分析严重依赖于外生性，即噪声与协变量的独立性。受此差距的启发，我们研究了用于随机在线学习的过度识别和恰好识别的工具变量（IV）回归，特别是两阶段最小二乘法，并提出使用两阶段最小二乘法的在线变体，即O2SLS。我们证明，在T次交互后，O2SLS实现了$\mathcal O(d_{x}d_{z}\log^2 T)$的识别遗憾和$\widetilde{\mathcal O}(\gamma \sqrt{d_{z} T})$的oracle遗憾，其中$d_{x}$和$d_{z}$是协变量和工具变量的维度，$\gamma$是由于内生性导致的偏差。对于$\gamma=0$，即在外生性条件下，O2SLS表现出$\mathcal O(d_{x}^2 \log^2 T)$的oracle遗憾，这与随机在线岭回归的遗憾处于同一数量级。然后，我们利用O2SLS作为oracle来设计OFUL-IV，这是一种用于解决内生性问题的随机线性bandit算法。OFUL-IV产生了$\widetilde{\mathcal O}(\sqrt{d_{x}d_{z}T})$的遗憾，这与外生性条件下的遗憾下界相匹配。对于具有内生性的不同数据集，我们通过实验展示了O2SLS和OFUL-IV的效率。