通过系统1和系统2认知过程减少LLM社会偏见的提示技术
计算与语言
2025-08-25 v4
摘要
双过程理论认为，人类认知通过两种系统产生。系统1是快速的、情感的和直观的过程，受认知偏见影响；系统2是缓慢的、费力的和深思熟虑的过程。先前的研究发现，使用链律思维(CoT)提示在LLM中，常被与系统2推理比较，可导致性别偏见减少。在此基础上，我们探讨了偏见、CoT提示、直接去偏和双过程理论建模在LLM中的关系。我们在覆盖九个不同社会偏见类别的两个偏见数据集上，比较了零shot CoT、去偏和基于双过程理论的提示策略。我们引入人类和机器人 personas，以确定LLM是否独立于显式的persona模型即可建模双过程理论的效果，还是依赖于LLM对人类化生成的建模。我们发现，人类 persona、去偏、系统2和CoT提示都倾向于减少LLM中的社会偏见，尽管不同模型和偏见类别下的特征组合表现最佳——导致LLM中偏差性判断下降最高可达33%。
引用
@article{arxiv.2404.17218,
title = {Prompting Techniques for Reducing Social Bias in LLMs through System 1 and System 2 Cognitive Processes},
author = {Mahammed Kamruzzaman and Gene Louis Kim},
journal= {arXiv preprint arXiv:2404.17218},
year = {2025}
}
备注
Accepted at RANLP-2025 (main conference)