面向人类与生成式 AI 之间共同 ground 共享的认知架构：七巧板命名任务中模型-模型交互的试验
人工智能
2024-12-09 v1
摘要
为使生成式 AI 值得信赖，与人类建立透明的共同 grounding 至关重要。作为迈向人类-模型共同 grounding 的准备，本研究考察了模型-模型共同 grounding 的过程。在此语境下，共同 ground 被定义为通信中智能体之间共享的认知框架，使得智能体之间交换的符号能够连接到每个智能体内在的意义。这种连接由相关智能体之间共享的认知框架所促进。在本研究中，我们聚焦于七巧板命名任务（TNT）作为考察共同 ground 构建过程的测试平台。与先前为该任务设计的模型不同，我们的方法采用生成式 AI 来可视化模型的内部过程。在该任务中，发送方在模型内构建抽象图形的隐喻图像，并基于该图像生成详细描述。接收方通过构建另一幅图像并重构原始抽象图形来解释来自伙伴的生成描述。该研究的初步结果显示任务表现高于随机水平，表明模型中实现的共同认知框架的效果。此外，我们观察到利用成功通信案例对模型的一个组件进行增量反向传播导致性能在统计上显著提升。这些结果为生成式 AI 所实现的共同 grounding 机制提供了宝贵见解，改善了未来社会中人类与不断演进的智能机器的通信。
引用
@article{arxiv.2311.05851,
title = {Cognitive Architecture Toward Common Ground Sharing Among Humans and Generative AIs: Trial on Model-Model Interactions in Tangram Naming Task},
author = {Junya Morita and Tatsuya Yui and Takeru Amaya and Ryuichiro Higashinaka and Yugo Takeuchi},
journal= {arXiv preprint arXiv:2311.05851},
year = {2024}
}
备注
Proceedings of the 2023 AAAI Fall Symposium on Integrating Cognitive Architectures and Generative Models