人机交互对齐：为互惠人机未来设计、评估与演进以价值中心为导向的 AI

Hua Shen; Tiffany Knearem; Divy Thakkar; Pat Pataranutaporn; Anoop Sinha; Yike; Shi; Jenny T. Liang; Lama Ahmad; Tanu Mitra; Brad A. Myers; Yang Li

人机交互对齐：为互惠人机未来设计、评估与演进以价值中心为导向的 AI

人机交互 2025-12-29 v1 人工智能计算与语言

作者: Hua Shen , Tiffany Knearem , Divy Thakkar , Pat Pataranutaporn , Anoop Sinha , Yike , Shi , Jenny T. Liang , Lama Ahmad , Tanu Mitra , Brad A. Myers , Yang Li

在 arXiv 上查看 ↗ PDF ↗

摘要

生成式 AI 快速融入日常生活，凸显了超越仅调整 AI 以适应人类价值观的单向对齐模型的必要性。本工作坊聚焦于双向人机对齐，这是一种动态、互惠的过程，人类与 AI 通过交互、评估和以价值中心为导向的设计相互适应。基于我们过去的 CHI 2025 BiAlign SIG 和 ICLR 2025 工作坊，本工作坊将汇聚来自人机互作、人工智能、社会科学等多个领域的跨学科研究者，推动价值中心的 AI 和互惠人机合作。我们聚焦于将人类和社会价值嵌入对齐研究，强调不仅要引导 AI 朝向人类价值发展，还要使人类能够关键性地参与并与 AI 系统一起演进。通过演讲、跨学科讨论和协作活动，参与者将探索交互式对齐方法、社会影响评估框架以及动态情境下的对齐策略。本工作坊旨在弥合学科之间的鸿沟，为负责任的互惠人机未来建立共同议程。

关键词

人机对齐双向对齐价值中心 AI 跨学科合作互惠互动

引用

@article{arxiv.2512.21551,
  title  = {Human-AI Interaction Alignment: Designing, Evaluating, and Evolving Value-Centered AI For Reciprocal Human-AI Futures},
  author = {Hua Shen and Tiffany Knearem and Divy Thakkar and Pat Pataranutaporn and Anoop Sinha and Yike and Shi and Jenny T. Liang and Lama Ahmad and Tanu Mitra and Brad A. Myers and Yang Li},
  journal= {arXiv preprint arXiv:2512.21551},
  year   = {2025}
}

备注

CHI 2026 BiAlign Workshop

人机交互对齐：为互惠人机未来设计、评估与演进以价值中心为导向的 AI

摘要

关键词

引用

备注

相关论文