人类与机器之间的通用性对齐
摘要
近期 AI 的进展——包括生成方法——导致能够 support human 在科学发现和 decision making 方面的技术,但也可能 disrupt democracies and target individuals。 responsible AI 的使用及其在 human-AI 团队中的参与日益显示 align 的需要,即,使 AI 系统按照我们的 preferences 行动。这些 interactions 中经常被忽视的关键方面是,人类和机器的通用性不同。在认知科学中,人类通用性通常涉及 abstraction 和 concept learning。相比之下,AI 通用性涵盖 machine learning 中的 out-of-domain generalisation, symbolic AI 中的 rule-based reasoning, 以及 neurosymbolic AI 中的 abstraction。In this perspective paper, 我们将来自 AI 和 cognitive science 的见解结合起来,识别在 three dimensions: notions of, methods for, 和 evaluation of generalisation 中的 key commonalities and differences。我们沿着 these three dimensions mapping AI 和 cognitive science 中 generalisation 的不同概念化,并考虑其在 human-AI 团队中的 align 作用。结果是 AI 和 cognitive science 之间必须解决的 cross-disciplinary 挑战,以为 effective and cognitively supported alignment in human-AI 团队情境提供基础。
引用
@article{arxiv.2411.15626,
title = {Aligning Generalisation Between Humans and Machines},
author = {Filip Ilievski and Barbara Hammer and Frank van Harmelen and Benjamin Paassen and Sascha Saralajew and Ute Schmid and Michael Biehl and Marianna Bolognesi and Xin Luna Dong and Kiril Gashteovski and Pascal Hitzler and Giuseppe Marra and Pasquale Minervini and Martin Mundt and Axel-Cyrille Ngonga Ngomo and Alessandro Oltramari and Gabriella Pasi and Zeynep G. Saribatur and Luciano Serafini and John Shawe-Taylor and Vered Shwartz and Gabriella Skitalinskaya and Clemens Stachl and Gido M. van de Ven and Thomas Villmann},
journal= {arXiv preprint arXiv:2411.15626},
year = {2025}
}