用于批量特征获取的生成器辅助混合专家模型

给定一组观测值，特征获取旨在寻找能够提升准确率的未观测特征子集。先前工作已在序列设定下探索了此类问题。在此设定中，模型从每次获取的新特征中接收反馈，并选择继续探索更多特征或进行预测。然而，在时间至关重要的某些场景中，序列获取并不可行。我们考虑批量特征获取问题，其中待批量查询的特征子集基于当前观测特征进行选择，随后作为整体批量获取，最后进行预测。我们通过几项技术创新来解决这一问题。首先，我们使用特征生成器为部分样本生成合成特征子集，从而降低预言机查询的成本。其次，为了使特征获取问题在大型异构观测特征下易于处理，我们借助局部敏感哈希工具将数据划分到不同桶中，随后训练混合专家模型。第三，我们设计了原始目标函数的一个易于处理的下界。我们使用贪心算法结合模型训练来解决该底层问题。在四个数据集上的实验表明，我们的方法在准确率与特征获取成本的权衡方面优于这些方法。