面向神经符号概念模型简洁且逻辑一致的共形集
机器学习
2026-05-19 v1 人工智能
摘要
神经符号概念模型是一类将神经网络与符号推理相结合的架构族，旨在提高高风险应用中的可靠性。其工作原理是首先从输入中提取高层概念，然后在与给定逻辑约束相容的情况下从这些概念推断出任务标签。然而，其标签和概念预测可能过于自信，使得利益相关者难以判断何时可以信任模型的决策。我们通过整合来自共形预测的思想来解决这一问题，该框架提供严格的、无分布的覆盖率保证。我们形式化了任何用于 NeSy-CBM 的共形方法都应满足的三个期望特性——一致性、覆盖率和简洁性，并表明现有方法至少有一个无法满足。随后我们引入了 COCOCO，一个事后框架，联合共形化概念与标签，并通过单一的演绎-溯因修正步骤对其进行调和。COCOCO 满足所有三个期望特性，保持无分布的覆盖率，对不完善的知识具有鲁棒性，并支持用户指定的大小预算。我们在 8 个数据集上的实验突出了 COCOCO 如何在性能和集合大小方面优于竞争方法和自然基线。
引用
@article{arxiv.2605.18202,
title = {Concise and Logically Consistent Conformal Sets for Neuro-Symbolic Concept-Based Models},
author = {Samuele Bortolotti and Emanuele Marconato and Andrea Pugnana and Andrea Passerini and Stefano Teso},
journal= {arXiv preprint arXiv:2605.18202},
year = {2026}
}