大语言模型新闻推荐中的认知偏差
信息检索
2024-10-07 v1 人工智能
计算与语言
摘要
尽管大语言模型 (LLM) 正日益成为新闻推荐系统中重要的组件，但在此类系统中采用 LLM 引入了新的风险，即认知偏差对 LLM 的影响。认知偏差指人类在判断过程中偏离规范或理性的系统性模式，这些偏差可能导致 LLM 输出不准确，从而威胁新闻推荐系统的可靠性。具体而言，受认知偏差影响的 LLM 基于新闻的推荐系统可能导致虚假信息的传播、刻板印象的强化以及回音室的形成。本文探讨了多种认知偏差对 LLM 基于新闻的推荐系统的潜在影响，包括锚定偏差、框架偏差、保守偏差和群体归因偏差。此外，为促进未来改善 LLM 基于新闻推荐系统可靠性的研究，本文讨论了通过数据增强、提示工程和学习算法等方面缓解这些偏差的策略。
引用
@article{arxiv.2410.02897,
title = {Cognitive Biases in Large Language Models for News Recommendation},
author = {Yougang Lyu and Xiaoyu Zhang and Zhaochun Ren and Maarten de Rijke},
journal= {arXiv preprint arXiv:2410.02897},
year = {2024}
}
备注
Accepted at the ROGEN '24 workshop, co-located with ACM RecSys '24