惩罚透明度？AI披露与作者人口统计学如何影响人类与AI对写作质量的判断
计算机与社会
2025-07-03 v1 人工智能
摘要
随着AI在各类人类写作中的融合，关于AI帮助透明度的呼声日益增长。然而，若透明度运行于不平等的基础上且某些身份群体因诚实而承担更大成本，则开放的负担便呈现不对称。本研究检验AI披露声明如何影响写作质量的感知，以及这些效应是否因作者的种族和性别而异。通过一次大规模受控实验，人类评委（n=1,970）和LLM评委（n=2,520）均对同一篇人类撰写的新闻文章进行评估，同时系统性变更披露声明和作者人口统计学信息。这种方法反映了人类与算法性决策如何共同影响机会获取（如招聘、晋升）和社会认可（如内容推荐算法）。我们发现，人类与LLM评委均一致惩罚披露AI使用的情形。然而，仅LLM评委表现出人口统计学交互效应：在无披露时，他们更青睐归因于女性或裔黑裔作者的文章。但一旦揭示AI帮助，这些优势便消失。我们的发现阐明了AI披露与作者身份之间的复杂关系，突显机器与人类评估模式之间的差异。
引用
@article{arxiv.2507.01418,
title = {Penalizing Transparency? How AI Disclosure and Author Demographics Shape Human and AI Judgments About Writing},
author = {Inyoung Cheong and Alicia Guo and Mina Lee and Zhehui Liao and Kowe Kadoma and Dongyoung Go and Joseph Chee Chang and Peter Henderson and Mor Naaman and Amy X. Zhang},
journal= {arXiv preprint arXiv:2507.01418},
year = {2025}
}
备注
Presented at CHIWORK 2025 Workshop on Generative AI Disclosure, Ownership, and Accountability in Co-Creative Domains