AutoLossGen：面向推荐系统的损失函数自动生成

在推荐系统中，损失函数的选择至关重要，因为良好的损失可显著提升模型性能。然而，由于问题复杂性，人工设计良好损失是一大挑战。先前大量工作聚焦于手工设计的损失函数，这需要显著的专门知识与人力。本文受自动化机器学习近期发展的启发，提出一个自动损失函数生成框架 AutoLossGen，其能够由基本数学算子直接构造损失函数，而无需关于损失结构的先验知识。更具体地，我们开发了一个由强化学习驱动的控制器模型来生成损失函数，并开发了迭代与交替优化调度以更新控制器模型与推荐模型两者的参数。推荐系统中自动损失生成的一个挑战是推荐数据集的极端稀疏性，其导致损失生成与搜索的稀疏奖励问题。为解决该问题，我们进一步开发了奖励过滤机制以实现高效且有效的损失生成。实验结果表明，我们的框架能为不同推荐模型与数据集定制损失函数，且所生成损失比常用基线损失给出更好的推荐性能。此外，大多数生成损失是可迁移的，即基于某一模型与数据集生成的损失也适用于另一模型或数据集。本工作的源代码见于 https://github.com/rutgerswiselab/AutoLossGen。