对经验性人类-AI 对齐的统计批判
人工智能
2025-05-13 v2 计算与语言
机器学习
其他统计学
摘要
经验性人类-AI 对齐旨在使 AI 系统的行为与观察到的人类行为相匹配。尽管目标宏伟，但我们认为，经验性对齐可能无意中引入统计偏差，这值得警惕。因此，本立场论文反对盲目的经验性对齐，提出了规范性对齐和后验经验性对齐两种替代方案。我们通过诸如人类定向解码语言模型等具体案例来实证支撑我们的原则性论点。
引用
@article{arxiv.2502.14581,
title = {A Statistical Case Against Empirical Human-AI Alignment},
author = {Julian Rodemann and Esteban Garces Arias and Christoph Luther and Christoph Jansen and Thomas Augustin},
journal= {arXiv preprint arXiv:2502.14581},
year = {2025}
}
备注
24 pages, 2 figures, 5 tables