认知 inception：通过注入怀疑心实现对视觉欺骗的代理推理
人工智能
2025-11-25 v1
摘要
随着生成式AI内容（AIGC）的发展，多模态大语言模型（LLM）在识别来自真实内容的生成视觉输入方面存在挑战。这种缺陷会导致对视觉欺骗的脆弱性，即模型被生成内容误导，推理过程的可靠性受到威胁。因此，在面对快速出现的生成模型和多样化的数据分布时，提高LLMs对抗潜在欺骗的通用推理能力至关重要。鼓励人类认知过程，我们发现LLMs倾向于过度信任视觉输入，而注入怀疑心可显著提高模型在视觉欺骗中的认知能力。基于这一发现，我们提出了 Inception 框架，这是一个基于完全推理的代理推理框架，通过注入怀疑心来实现通用的真实性验证，其中LLMs的推理逻辑在外部怀疑者与内部怀疑者代理之间不断增强。到目前为止，这是首个针对 AIGC 视觉欺骗的完全基于推理的框架。我们的方法在最强大的LLM基线上实现了显著的性能提升，并在 AEGIS 框架上实现了SOTA性能。
引用
@article{arxiv.2511.17672,
title = {Cognitive Inception: Agentic Reasoning against Visual Deceptions by Injecting Skepticism},
author = {Yinjie Zhao and Heng Zhao and Bihan Wen and Joey Tianyi Zhou},
journal= {arXiv preprint arXiv:2511.17672},
year = {2025}
}