以价值观框架化AI可降低AI在AI支持写作任务中的依赖
人机交互
2026-05-21 v1
摘要
尽管全球大量用户采用大语言模型（LLM）完成日常写作任务，但模型建议往往与西方价值观一致。研究表明，用户常接受大量AI建议，导致写作风格趋同，使输出更符合“西方”风格。虽然这表明需要减少AI依赖，但尚不知道何种干预方式可实现此目标。将AI以特定价值观进行框架化，并与用户自身价值观进行比较，能否使用户更不易依赖AI，从而支持更独特的写作？我们在印度和美国参与者（n=149）的随机对照实验中测试了这一假设，让他们执行AI支持写作任务：1）无干预，2）看到AI框架化价值观概览，或3）看到AI框架化价值观与自身价值观的比较。结果显示，看到AI框架化价值观可使AI依赖度平均降低20%。此外，当参与者看到AI框架化价值观概览（无需与自身价值观比较）时，最终作文包含更多独特文本。我们的发现强调了向用户教育AI潜在价值偏见的重要性，表明以简单价值观概览提升意识可鼓励用户个性化写作。
引用
@article{arxiv.2605.20512,
title = {Framing an AI with Values Reduces AI Reliance in AI-supported Writing Tasks},
author = {Alice Gao and Andrew N. Meltzoff and Maarten Sap and Katharina Reinecke},
journal= {arXiv preprint arXiv:2605.20512},
year = {2026}
}
备注
Accepted to FAccT 2026