教授人类行为提升 LLM 的内容理解能力
计算机视觉与模式识别
2024-10-11 v3 计算与语言
摘要
通信被定义为“谁对谁说了什么产生了什么效果”。来自传播者的消息会产生下游接收者效果，也称为行为。接收者行为作为消息的下游效果，携带着关于消息的丰富信号。尽管行为数据携带了关于消息的信号，但在训练大型语言模型时往往被忽略。我们表明，在接收者行为上训练 LLM 实际上可以帮助提升其内容理解能力。具体而言，我们表明训练 LLM 预测点赞和评论等接收者行为，可提升 LLM 在各种下游内容理解任务上的表现。我们在 26 个基准数据集上的 46 个视频和图像理解任务中展示了这种性能提升，涵盖 0-shot 和微调设置，优于许多有监督基线。此外，由于点赞和评论等接收者行为在互联网上是默认收集的，不需要任何人工标注即可发挥作用，因此在此数据上训练后获得的性能提升本质上是免费午餐。我们发布了从多个平台收集的 75 万张图像和视频的接收者行为清洗后评论与点赞，以及我们的指令微调数据。
引用
@article{arxiv.2405.00942,
title = {Teaching Human Behavior Improves Content Understanding Abilities Of LLMs},
author = {Somesh Singh and Harini S and Yaman K Singla and Veeky Baths and Rajiv Ratn Shah and Changyou Chen and Balaji Krishnamurthy},
journal= {arXiv preprint arXiv:2405.00942},
year = {2024}
}