Social Reward：通过在线创意社区的百万用户反馈评估与增强生成式 AI
摘要
社会奖励作为一种社区认可形式，为在线平台用户参与和内容贡献提供了强大的动力来源。近期文本条件图像合成的进展开启了一个协作时代，AI 赋能用户创作寻求社区验证的原创视觉艺术作品。然而，在集体社区偏好的背景下评估这些模型带来了独特的挑战。现有的评估方法主要集中在由图像质量和提示词对齐度引导的小规模用户研究上。这项工作开创了一种范式转变，推出了 Social Reward——一种创新的奖励建模框架，利用社交网络用户在生成图像创意编辑中的隐式反馈。我们 embarked on 了一次广泛的数据集策划与精炼之旅，数据源自 Picsart（一个在线视觉创作与编辑平台），产生了首个百万用户规模的隐式人类偏好数据集，名为 Picsart Image-Social，专门针对用户生成的视觉艺术。我们的分析揭示了当前指标在建模文本到图像模型输出的社区创意偏好方面的不足，促使我们引入一种明确针对这些局限性设计的新型预测模型。严格的定量实验和用户研究表明，我们的 Social Reward 模型在与社会流行度的一致性上优于现有指标。此外，我们利用 Social Reward 微调文本到图像模型，生成的图像不仅更受 Social Reward 青睐，也更符合其他既定指标。这些发现突显了 Social Reward 在评估社区对 AI 生成艺术作品的欣赏度方面的相关性和有效性，使其与用户的创意目标（即创作流行的视觉艺术）更加紧密对齐。代码可访问：https://github.com/Picsart-AI-Research/Social-Reward
引用
@article{arxiv.2402.09872,
title = {Social Reward: Evaluating and Enhancing Generative AI through Million-User Feedback from an Online Creative Community},
author = {Arman Isajanyan and Artur Shatveryan and David Kocharyan and Zhangyang Wang and Humphrey Shi},
journal= {arXiv preprint arXiv:2402.09872},
year = {2024}
}
备注
16 pages with 10 figures, accepted at ICLR 2024 as a spotlight, codes can be accessed at https://github.com/Picsart-AI-Research/Social-Reward