神圣还是世俗？AI 生成金融建议中的宗教偏见
计算机与社会
2025-04-11 v1 人工智能
新兴技术
摘要
本研究考察了 AI 生成金融建议中的宗教偏见，聚焦于 ChatGPT 对金融查询的响应。通过基于提示的方法和内容分析，我们发现 ChatGPT 生成的 50% 金融邮件 exhibits 宗教偏见，其中包括来自同族和异族互动中的显性偏见。虽然同族偏见会根据宗教一致性对响应进行个性化，但异族偏见则会引入宗教框架，可能使客户感到疏离或产生意识形态摩擦。这些发现与更广泛的 AI 偏见研究相吻合，表明 ChatGPT 不仅在反映社会偏见，还可能主动地根据 perceived 的宗教身份来塑造金融话语。我们在批判性算法研究框架下论证，ChatGPT 作为金融叙事的中介，会选择性地强化特定宗教视角。本研究强调，为确保 AI 驱动金融服务的中立性，需加强透明度、偏差缓解策略以及监管 oversight。
引用
@article{arxiv.2504.07118,
title = {Sacred or Secular? Religious Bias in AI-Generated Financial Advice},
author = {Muhammad Salar Khan and Hamza Umer},
journal= {arXiv preprint arXiv:2504.07118},
year = {2025}
}