不再带来鲜花：通过共形风险控制缓解不良推荐

推荐系统正在显著塑造在线信息消费。尽管这些系统在个性化内容方面行之有效，但它们因传播无关、不良甚至有害的推荐而日益面临批评。此类内容会降低用户满意度，并助长包括错误信息、极端化和用户信任流失在内的重大社会问题。尽管平台提供了缓解接触不良内容的机制，但这些机制往往效果不佳，且难以快速适应用户反馈。本文引入了一种直观、模型无关且无分布的方法，该方法利用共形风险控制，通过对物品的简单二元反馈，在可证明的范围内限制个性化推荐中的不良内容。我们还解决了传统共形风险控制方法的一个局限性，即推荐系统只能提供较小推荐集合的问题，具体做法是利用已消费物品的隐式反馈来扩展推荐集，同时确保稳健的风险缓解。我们在来自一个流行在线视频分享平台的数据上进行了实验评估，结果表明我们的方法能够以最小的代价有效且可控地减少不良推荐。源代码可在此处获取：https://github.com/geektoni/mitigating-harm-recsys。