从个人化到偏见：记忆增强型 AI 智能体在招聘中的偏见与歧视
人工智能
2025-12-19 v1 信息检索
摘要
大语言模型（LLM）赋予了 AI 智能体在 diverse 任务中理解、推理和交互的先进能力。通过添加记忆功能进一步提升了它们，通过在交互之间实现连续性、从过去经验中学习，并提高其动作和响应的相关性；称为记忆增强型个人化。尽管这种通过记忆实现的个人化提供了明确的好处，但也引入了偏见风险。虽然已有研究已揭示了 ML 和 LLM 中的偏见，但由于记忆增强型个人化智能体的偏见问题仍鲜有探讨。我们以招聘为示例用例，模拟记忆增强型个人化智能体的行为，并研究偏见如何在各个运作阶段被引入和放大。我们对使用安全训练的 LLM 的智能体进行实验，结果显示偏见通过个人化被系统性地引入并强化，凸显了在记忆增强型 LLM 基础的 AI 智能体中需要额外的保护措施或智能体警戒系统。
引用
@article{arxiv.2512.16532,
title = {From Personalization to Prejudice: Bias and Discrimination in Memory-Enhanced AI Agents for Recruitment},
author = {Himanshu Gharat and Himanshi Agrawal and Gourab K. Patro},
journal= {arXiv preprint arXiv:2512.16532},
year = {2025}
}
备注
In Proceedings of the Nineteenth ACM International Conference on Web Search and Data Mining (WSDM '26)