通过基于人类-AI 偏好的合作解决问题
人工智能
2025-06-30 v5 人机交互
摘要
尽管普遍相信通用人工智能（AGI）——甚至超级人工智能——即将到来，但专家领域中的复杂问题远未被解决。我们认为，这类问题需要人机合作，而当前生成式人工智能的最新水平由于诸多缺陷，无法扮演可靠合作伙伴的角色，包括难以追踪复杂解决方案产物（如软件程序）、对人类偏好表达的有限支持以及缺乏在交互环境中适应人类偏好的能力。为应对这些挑战，本文提出了 HAICo2，一种新型人机协同构建框架。我们迈出了 HAICo2 形式化的第一步，并讨论了它所面临的困难开放研究问题。
引用
@article{arxiv.2408.07461,
title = {Problem Solving Through Human-AI Preference-Based Cooperation},
author = {Subhabrata Dutta and Timo Kaufmann and Goran Glavaš and Ivan Habernal and Kristian Kersting and Frauke Kreuter and Mira Mezini and Iryna Gurevych and Eyke Hüllermeier and Hinrich Schuetze},
journal= {arXiv preprint arXiv:2408.07461},
year = {2025}
}
备注
22 pages (main), 6 pages (appendix), 5 figures