从特征到 Transformer：重新定义可扩展影响力的排序
机器学习
2026-02-10 v3
摘要
我们在 LinkedIn 开发了 LiGR，一个大规模排序框架，将最新的基于 Transformer 的建模架构引入生产环境。我们引入了一种修改后的 Transformer 架构，集成了学习归一化和对用户历史记录和排名项的同时集合注意力。该架构实现了几个突破性成就，包括：（1）大幅度淘汰大多数手动设计的特征工程，仅通过少量特征即可超越以前的 SOTA 系统（与基线的成百上千个特征相比）；（2）验证了排序系统的比例定律，显示更大的模型、更多的训练数据和更长的上下文序列可提升性能；（3）对集合中项目进行同时联合评分，导致自动提升多样性。为有效服务大型排序模型，我们描述了使用单次处理用户历史记录和集合注意力来扩展推理的技术。我们还总结了各种消除实验和 A/B 测试的关键见解，突出最具影响力的技术方法。
关键词
引用
@article{arxiv.2502.03417,
title = {From Features to Transformers: Redefining Ranking for Scalable Impact},
author = {Fedor Borisyuk and Lars Hertel and Ganesh Parameswaran and Gaurav Srivastava and Sudarshan Srinivasa Ramanujam and Borja Ocejo and Peng Du and Andrei Akterskii and Neil Daftary and Shao Tang and Daqi Sun and Qiang Charles Xiao and Deepesh Nathani and Mohit Kothari and Yun Dai and Guoyao Li and Aman Gupta},
journal= {arXiv preprint arXiv:2502.03417},
year = {2026}
}
备注
We found discrepancies in the claims of the paper upon further investigation and therefore request to withdraw this submission from arXiv