优化顺序推荐模型：基于规模定律与近似熵

规模定律（Scaling Laws）已成为理解模型规模提升后性能演变的强大框架，为优化计算资源提供了宝贵洞察。在预测用户顺序偏好的顺序推荐（Sequential Recommendation, SR）领域，这些定律为解决SR模型可扩展性挑战提供了分析视角。然而，推荐系统中存在的结构性和协同问题，阻碍了规模定律在此类系统中的直接应用。为此，我们引入SR模型性能定律（Performance Law for SR models），旨在理论探讨和建模模型性能与数据质量之间的关系。具体而言，我们首先将HR和NDCG指标拟合至基于Transformer的SR模型。随后，我们提出近似熵（Approximate Entropy, ApEn）来评估数据质量，相较于传统数据数量指标，采用更细致的方法。该方法在各种数据集规模和模型大小下均能实现准确预测，显示出在大型SR模型中表现出强相关性，并为任何给定模型配置实现最佳性能提供了洞察。