将可信赖的大脑-智能体协作作为智能辅助技术的范式延伸
人工智能
2025-10-28 v1 计算与语言
摘要
脑机接口（BCI）提供了人类大脑与外部设备之间的直接沟通通道，对于具有严重神经功能障碍者具有重要前景。然而，其广泛应用受到低信息传递率和大量用户特定校准等关键限制的制约。为克服这些挑战，近期研究探索了大型语言模型（LLM）的集成，将注意力从简单命令解码扩展到理解复杂认知状态。尽管取得了这些进展，但部署具有代理性AI仍面临技术障碍和伦理问题。鉴于缺乏对这一新兴方向的全面讨论，本位论文认为该领域正趋于从BCI向大脑-智能体协作（BAC）的范式延伸。我们强调，将智能体重新框定为为智能辅助提供主动且合作性伙伴，而非被动的脑信号数据处理器，这需要关注伦理数据处理、模型可靠性以及确保这些系统安全、可信且有效的稳健的人机协作框架。
引用
@article{arxiv.2510.22095,
title = {Embracing Trustworthy Brain-Agent Collaboration as Paradigm Extension for Intelligent Assistive Technologies},
author = {Yankai Chen and Xinni Zhang and Yifei Zhang and Yangning Li and Henry Peng Zou and Chunyu Miao and Weizhi Zhang and Xue Liu and Philip S. Yu},
journal= {arXiv preprint arXiv:2510.22095},
year = {2025}
}
备注
Accepted by NeurIPS'25 Position Track