面向设备端模型推理的用户行为序列特征提取优化
机器学习
2026-03-24 v1 人工智能
人机交互
摘要
机器学习模型已广泛集成到现代移动应用中，用于分析用户行为并提供个性化服务。确保设备端模型执行低延迟对于维持高质量的用户体验至关重要。虽然先前的研究主要聚焦于加速给定输入特征的模型推理，但我们发现现实世界设备端模型执行管道中存在一个被忽视的瓶颈：从原始应用日志中提取输入特征。本文探索了通过分析和消除不同模型特征以及连续模型推理中冗余提取操作的新方向，以优化特征提取。我们引入AutoFeature，一个自动化特征提取引擎，用于在不牺牲模型推理准确性的前提下加速设备端特征提取过程。AutoFeature包括三个核心设计：(1) 图抽象，将不同输入特征的提取工作流程形式化为一个有向无环图；(2) 图优化，用于识别和融合图中不同特征之间的冗余操作节点；(3) 高效缓存，以最小化连续模型推理之间重叠原始数据的运算。我们实现了一个AutoFeature系统原型，并将其集成到搜索、视频和电子商务等五个工业移动服务中。线上评估表明，AutoFeature在白天将设备端模型执行延迟降低1.33倍至3.93倍，夜间降低1.43倍至4.53倍。
引用
@article{arxiv.2603.21508,
title = {Optimizing Feature Extraction for On-device Model Inference with User Behavior Sequences},
author = {Chen Gong and Zhenzhe Zheng and Yiliu Chen and Sheng Wang and Fan Wu and Guihai Chen},
journal= {arXiv preprint arXiv:2603.21508},
year = {2026}
}