人在回路还是 AI 在回路? 自动化还是协作?
人机交互
2024-12-20 v1
摘要
人在回路 (HIL) 系统已成为一种有前景的方法，用于将数据驱动的机器学习模型的优势与人类专家的上下文理解相结合。然而，深入观察这些系统中的几个会发现，将它们称为 HIL 是一种用词不当，因为它们恰恰相反，即 AI 在回路 () 系统，在这些系统中，人类控制系统，而 AI 在那里支持人类。我们认为，现有的评估方法往往过分强调机器（学习）组件的性能，而忽视了人类专家的关键作用。因此，我们提出了一种 视角，该视角认识到人类专家是系统的积极参与者，显著影响其整体性能。通过采用 方法，我们可以开发出更全面的系统，忠实地模拟人类和机器组件之间复杂的相互作用，从而产生更有效和稳健的 AI 系统。
引用
@article{arxiv.2412.14232,
title = {Human-in-the-loop or AI-in-the-loop? Automate or Collaborate?},
author = {Sriraam Natarajan and Saurabh Mathur and Sahil Sidheekh and Wolfgang Stammer and Kristian Kersting},
journal= {arXiv preprint arXiv:2412.14232},
year = {2024}
}