DeBiasMe：基于元认知 AIED（AI in Education）干预的去偏人类-AI 交互
人机交互
2025-04-24 v1
摘要
尽管生成式人工智能（Gen AI）日益改变学术环境，但在 AI 交互中消除人类偏见（如锚定偏见和确认偏见）的理解与缓解问题仍存关键缺口。本position paper主张通过元认知 AI literacy 干预，帮助大学生批判性地参与 AI 交互，跨越 Human-AI 交互工作流程消除偏见。该论文提出三大考虑要点：（1）聚焦人类偏见的元认知支持与刻意摩擦；（2）涵盖输入表述与输出解读的双向 Human-AI 交互干预；（3）响应多样化用户参与模式的自适应支架。这些框架通过旨在提升认知偏见意识并赋予用户在 AI 交互中主动能动性的 AIED 干预“DeBiasMe”得以体现。论文邀请多方利益相关者参与讨论，关于支架机制、偏见可视化与分析框架的设计与评估方法。这一工作贡献于 AI 增强学习新兴领域，强调元认知在帮助学生导航人类偏见、统计偏见与系统偏见在 AI 使用中的复杂互动方面的关键作用，同时凸显认知适应 AI 系统必须被纳入完整 AI literacy 框架中。
引用
@article{arxiv.2504.16770,
title = {DeBiasMe: De-biasing Human-AI Interactions with Metacognitive AIED (AI in Education) Interventions},
author = {Chaeyeon Lim},
journal= {arXiv preprint arXiv:2504.16770},
year = {2025}
}
备注
Presented at the 2025 ACM Workshop on Human-AI Interaction for Augmented Reasoning, Report Number: CHI25-WS-AUGMENTED-REASONING