用于近似最近邻和核密度估计的亚线性草图

近似最近邻（ANN）搜索和近似核密度估计（A-KDE）是现代机器学习核心的基本问题，具有广泛的应用前景，涵盖数据分析、信息系统和大规模决策等领域。在大规模和动态数据流中，核心挑战在于设计紧凑的草图，以保留数据基本结构特性，同时高效支持查询。本文开发了新的草图算法，为ANN和A-KDE在动态数据流中实现亚线性空间和查询时间保证。对于ANN在流式模型中，在自然假设下，我们设计了一个仅需$\mathcal{O}(n^{1+\rho-\eta})$内存的亚线性草图，通过存储总输入量的亚线性（$n^{-\eta}$）比例来实现，其中$\rho$为LSH族的一个参数，$0<\eta<1$。我们的方法支持亚线性查询时间，批量查询，并扩展到更一般的Turnstile模型。虽然早期工作聚焦于精确最近邻，但本工作是首个在ANN方面实现内存大小与近似误差之间近似最优权衡的结果。接下来，对于A-KDE在滑动窗口模型中，我们提出一种大小为$\mathcal{O}\left(RW \cdot \frac{1}{\sqrt{1+\epsilon} - 1} \log^2 N\right)$的草图，其中$R$为草图行数，$W$为LSH范围，$N$为窗口大小，$\epsilon$为近似误差。这在已知视野中，是滑动窗口模型中A-KDE的首个理论亚线性草图保证。我们补充了理论结果，通过在各种真实数据集上的实验，表明所提出的草图轻巧且在实际操作中始终实现低误差。